24 Ekim 1924’te Bitlis’te doğdu. 1943-1951 yılları arasında İstanbul Üniversitesi Edebiyat Fakültesi Şarkiyat Enstitüsü’nde İslami Bilimler ve Orientalistik alanında öncü bir yere sahip olan Alman oryantalist Hellmut Ritter (1892-1971)’in yanında öğrenim gördü. Hocasının, bilimlerin temelinin İslam bilimlerine dayandığını söylemesiyle bu alana yöneldi.
İstanbul Üniversitesi Edebiyat Fakültesinde Mecazu’l-Kuranadlı eserin tenkitli basım ve değerlendirmesini yaptığı doktora çalışmasını 1950 yılında tamamladı. 1950-1953 yılları arasında Ankara Üniversitesi İlahiyat Fakültesinde asistanlık yaptı.
1954 yılında İstanbul Üniversitesi Edebiyat Fakültesi Arap Dili ve Edebiyatı bölümünde Buharî’nin Kaynaklarıadlı tezini tamamladı. Bu teziyle o, hadis kaynağı olarak İslam kültüründe önemli bir yere sahip olan Buharî (810-870)’nin bir araya getirdiği hadislerin, biline gelenin aksine sözlü kaynaklara değil; İslam’ın erken dönemine, hatta 7. yüzyıla kadar geri giden yazılı kaynaklara dayandığı tezini savundu. Bu tez Avrupa merkezli oryantalist çevrelerde hala tartışılmaktadır. 1954 yılında İslam Araştırmaları Enstitüsü’nde doçent oldu. Burada tarihçi Zeki Velidi Togan ile çalıştı.
27 Mayıs 1960 askeri darbesi sırasında üniversiteden uzaklaştırılan ve 147’likler diye bilinen akademisyenler arasındaydı. 1961 yılında Almanya’ya giden Fuat Sezgin Frankfurt Üniversitesi’nde önce misafir doçent olarak dersler verdi. 1965 yılında Frankfurt Üniversitesi’nde profesör oldu. Oradaki bilimsel çalışmalarının ağırlık noktası Arap-İslam kültür çevresinde tabii bilimler tarihi alanı olmuştur ve bu alanda 1965 yılında profesörlük takdim tezi (habilitasyon) hazırlamıştır. Henüz İstanbul’da iken başladığı 7./14. yüzyıldan itibaren gelişen Arapça İslamî yazılı kaynaklar, kitabiyat ve edebiyat tarihi çalışmasına (Geschichte des arabischen Schrifttums) Almanya’da da devam ederek, Şarkiyat çalışmaları için kaynak eser haline gelmiş ve hala aşılamamış 13 ciltlik eserinin ilk cildini 1967 son cildini ise 2000 yılında yayınladı. Geschichte des arabischen Schrifttumsİslam’ın ilk döneminde yazılan eserleri, dinî ve tarihî edebiyattan coğrafya ve haritacılığa kadar bütün ana ve yan bilim dallarını konu edinmektedir. Prof. Sezgin Suudi Arabistan Kral Faysal Vakfı’nın İslami bilimler ödülünü 1978 yılında ilk alan kişidir. Bu gibi ve başka desteklerle Sezgin, 1982 yılında J.W.Goethe Üniversitesi’ne bağlı Arap-İslam Bilimleri Tarihi Enstitüsü ile 1983’de buranın müzesini kurdu ve onun idaresini yürüttü. Enstitüye bağlı olarak kurduğu müzede Sezgin, İslam kültür çevresinde yetişen Müslüman bilginler tarafından icat edilmiş aletlerin ve bilimsel araç ve gereçlerin (yazılı kaynaklara dayanarak yeniden imal edilen) numunelerini sergilemektedir. Müzede bulunan nesneleri tanıtmak ve İslam kültür çevresindeki bilimsel gelişmeyi göstermek için hazırladığı Wissenschaft und Technik im Islamisimli çalışmayı 2003 yılında yayınladı. Fransızcası daha önce yayınlanmış olan bu eserin Türkçesi 2007 yılında Türkiye Bilimler Akademisi tarafından yayınlanmıştır.
Prof. Dr. Fuat Sezgin son olarak, Arap-İslam Bilimleri Enstitüsü için hazırladığı bilimsel araç ve gereçlerin benzerlerini yaptırarak, açılışını 25 Mayıs 2008 tarihinde Başbakan R. Tayyip Erdoğan’ın yaptığı İstanbul İslam, Bilim ve Teknoloji Müzesi’nin açılmasına önayak olmuştur.
Meslektaşı Dr. Ursula Sezgin ile evliliğinden olan kızları Hilal Sezgin halen Almanya’da gazeteci ve yazarlık yapmaktadır. Prof. Dr. Fuat Sezgin, 30 Haziran 2018’de vefatına kadar eşiyle birlikte Almanya’da Frankfurt yakınlarında ikamet etmiştir.