Mükremin Halil Bey, 1898 yılında Kahramanmaraş’ın Elbistan İlçesi’nde doğdu. Babasının kadı olması nedeniyle birçok şehirde öğrenim gören Mükremin Halil Bey, ilk ve ortaokulu Malatya, Mardin ve Diyarbakır illerinde gördü. İstanbul’da Gelenbevi Sultanisi’ni tamamlayarak 1916 yılında mezun oldu. Aynı yıl İstanbul Darülfünunu, Edebiyat Fakültesi, Tarih Bölümü’ne girdi ve mezun olduktan sonra 1919’da Mülkiye’ye kaydolan MükriminHalil buradan da 1921’de mezun olduktan sonra 1921-1925 yılları arasında İstanbul’da kütüphane müdürlüğü yaptı. Ardından Paris’te görevlendirildi. Mükremin Halil Bey’in annesi ve babası 1920 yılında Ermeni mezalimi tarafından Adana’nın Saimbeyli İlçesi’nde katledildi.
Paris’teki araştırmalarını tamamlayan Mükremin Halil Bey, 1927 yılının Eylül ayında Paris’ten vatanına döndü. Galatasaray Lisesi ve Kabataş Lisesi’nde tarih öğretmenliği görevinde bulunan Mükremin Halil Bey, Türk Tarih Kurumu’nun kurucuları arasında yer aldı. 1933 yılında İstanbul Üniversitesi Edebiyat Fakültesi Tarih Bölümü’ne doçent olarak atandı. 1941 yılında profesör, 1957 yılında ise Ordinaryüs Profesör ünvanını aldı. Özellikle Türklerin Anadolu’ya gelmesi konusunda uzman olan Mükremin Halil Hoca, 22 Aralık 1961 tarihinde vefat etti.
Mükremin Halil Hoca’nın donanımına rağmen az sayıda eser vermesinin sebebi ise yazmaktan çok anlatmayı sevmesi nedeniyledir.