Aslen Kırım Tatarı olan bir ailenin çocuğu olarak 1916 yılında İstanbul'da dünyaya geldi. Öğretmen olduğu için Ankara Dil Tarih ve Coğrafya Fakültesi'nde eğitim görmeye hak kazandı.
Mezun olduğu sene, okulunda akademisyen olarak kaldı. Yakınçağ Bölümü'ne asistan oldu. 26 yaşında, 'Tanzimat ve Bulgar Meselesi' adlı teziyle doktorasını tamamladı ve bu doktora, Türk Tarih Kurumu tarafından yayımlandı. 27 yaşına geldiğinde ise artık bir tarih doktoruydu.
İlerleyen kariyerinde doçentlik unvanı aldı ve Londra Üniversitesi'nde çalıştı. 1952 yılında profesörlüğünü aldı, Columbia Üniversitesi'nde dersler verip araştırmalar yaptı. 1956'dan 1972'ye kadarlık süreçte Ankara Üniversitesi Siyasal Bilgiler Fakültesi'nde Osmanlı ve Avrupa Tarihi üzerine dersler verdi.
Aynı yıl emekli oldu. 4 yıl boyunca Güneydoğu Avrupa Araştırmaları Merkezi'nin başkanlığını yürüttü ve aynı tarihlerde İngiltere Kraliyet Tarih Derneği'nin muhabir üyeliğini yaptı.
Chicago Üniversitesi Osmanlı Tarihi Kürsüsü'nün başkanı oldu ve buradan da 1986 yılında emekli oldu. Aynı yıl içerisinde Amerikan Akademisi'ne, 1993'te ise British Academy'e üye seçildi.
Böylece uluslararası alanda seçkin bir yer alan ilk Türk tarihçi oldu. Sofya, Boğaziçi, Uludağ, Selçuk, Atina, Kudüs, İbrani ve Bükreş Üniversiteleri'nden uluslararası başarılarının göstergesi olarak doktora payesi aldı.
İngilizce, Fransızca ve Almanca'yı çok iyi konuşuyor, Arapça ve Farsça'yı kullanabiliyor, sözlük yardımı ile İtalyanca'yı da anlayabiliyordu.
1991 yılında Dışişleri Bakanlığı tarafından üstün hizmet ödülüne layık görüldü. 1993 yılında Bilkent Üniversitesi'ndeki akademisyenlik kariyeri başladı.
Dört uzmanla birlikte hazırladıkları 'An Economic and Social History of Ottoman Empire' adlı çalışması, bugün Dünya üniversitelerinde el kitabı haline gelmiştir. Türkçe ve İngilizce pek çok tarihi eser hazırlayan ve Tarihçilerin Kutbu olarak bilinen Halil İnalcık, 25 Temmuz 2016 tarihinde tedavi gördüğü hastanede 100 yaşında vefat etmiştir.
Daima Osmanlı Türk tarihinin medeni yüzünü Dünya'ya tanıtmakla övünen İnalcık, Türk tarihçilerine şu öğütlerde bulunuyor:
'Daima belgelere sadık kalın. Eğer hakikati ortaya çıkarırsanız, bu daima bizim lehimizedir. Çünkü bugüne kadar tarihimiz hakkında yazılanların çoğu ya yalandır, ya çarpıtmadır. Eğer mübalağa yaparsanız kendinizi kabul ettiremezsiniz, sizi ciddiye almazlar.'