Kanuni Sultan Süleyman‘ın ilk yıllarında devşirildi, Edirne Sarayı’nda eğitildi, İstanbul’da Enderun‘a alındı, hazine ve hasodada çalıştı, sırasıyla rikabdar, çukadar, silahtar ve kapıcıbaşı oldu. 1546′da sancakbeyliği rütbesiyle kaptanıderyalık görevine getirildi. 1549′da Rumeli Beylerbeyliği’ne atandı, 1551′de Avusturya ile Osmanlı Devleti arasındaki Erdel Seferi’ne gönderildi. Erdel’ i ve 12 kaleyi, ertesi yıl Tamışvar Kalesi’ni ele geçirdi. İran Seferi sırasında, Rumeli askeriyle Tokat’ta kışladı. Kanuni Amasya’ya geldiği sırada, üçüncü vezir rütbesiyle Divan üyeleri arasına katıldı. Düzmece Mustafa olayını bastırdıktan sonra, 1559′da Şehzade Selim ile Şehzade Bayezit arasındaki savaşta, Selim‘den yana olunca savaşın kazanılmasında büyük etkisi görüldü. 1561′de ikinci vezirliğe yükseldi. 1565′te Semiz Ali Paşa’nın ölümüyle boşalan sadrazamlığa atandı.
Sokullu Mehmet Paşa, Erdel Avusturya üzerine sefer açılmasına karar verdi. Yaşlı Kanuni Sultan Süleyman‘ın da katıldığı bu seferde Sigetvar Kalesi ele geçirildi. Sigetvar Kalesi’nin alınmasından üç gün önce ölen Kanuni‘nin yerine geçen oğlu II. Selim, Sokullu Mehmet Paşa’yı görevinde bıraktı, sadrazamını yetkilerini kullanmakta tümüyle serbest saydı. Sokullu bu dönemde, Arabistan, Yemen ve Basra ayaklanmalarını bastırdı; Avusturya ile barış yapıldı. Sokullu Mehmet Paşa, Don ile Volga ırmaklarını bir kanalla birbirine bağlamayı, böylece Asya içlerine ulaşabilmeyi tasarladı. Bunun için büyük bir işçi ordusuyla kanal açtırmaya başladıysa da, 1570′te Kıbrıs’ta gelişen olaylar, adanın fethini zorunlu kılınca, kanal işi geri kaldı. Lala Mustafa Paşa komutasındaki Osmanlı ordusu Kıbrıs’ı ele geçirdi. Haçlı Donanması hazırladılar. Bu donanmayla İnebahtı önlerinde yapılan deniz savaşını kazandıysa da Sokullu Mehmet Paşa, ertesi yıl 300 gemilik büyük bir donanmayı, Kılıç Ali Paşa komutasında Akdeniz’e gönderdi. Bu donanmanın karşısına çıkan olmadı. 1574′te, Tunus ve Halkulvad kaleleri ele geçirildi. Aynı yıl II. Selim öldü. Yerine geçen oğlu III. Murat, Sokullu Mehmet Paşa’yı sadrazamlıkta bıraktı. Yeni Padişah III. Murat döneminde de bağımsız çalışabildi. III. Murat döneminde Sokullu, özellikle İran cephesinde çıkan olaylarla uğraşmak zorunda kaldı. Sınır sataşmaları yüzünden Sokullu’nun karşı koymasına karşın, İran Seferi’ne karar verildi. Lala Mustafa Paşa’nın komutanlığında başlayan sefer, Sokullu’nun ölümünden sonra da sürdü. Öte yandan Lehistan tahtına Erdel Voyvodası Bathory oturdu, Osmanlı egemenliğini kabul ettiği gibi, Kırım hanına da vergi vereceğini belirtti. Sokullu Mehmet Paşa, ölümünden az önce, Kuzey Afrika’daki gelişmelere de karışma fırsatını buldu, Fas Osmanlı yönetimini kabul etti. Sokullu Mehmet Paşa, 15 yılı bulan sadrazamlığı döneminde devleti başarıyla yönetilmesine karşın, birçok da düşman edinmişti. Bir gün ikindi divanı sırasında derviş kılığındaki bir katilin hançeriyle öldürüldü. Sokullu Mehmet Paşa, birçok hayır eseri bırakmıştır. Cami, medrese ve kervansaraydan oluşan bu eserler, İstanbul’da Kadırga ve Azapkapı semtlerinde, Payas ve Lüleburgaz’dadır.