Program Magister Ilmu Hadis (PMIH) UIN Sumatera Utara memiliki sejarah yang tidak dapat dipisahkan dari Program Pascasarjana (PPs) IAIN Sumatera Utara. PPs IAIN Sumatera berdiri tahun 1994 dengan latar kebutuhan akan adanya program pendidikan lanjutkan kepada dosen ataupun alumni IAIN Sumatera Utara. PPs merupakan sebuah program lanjutan pada jenjang magister yang berada di bawah naungan IAIN Sumatera Utara mengelola Program Studi Dirasah Islamiyah (Pengkajian Islam). PPs IAIN Sumatera Utara pada masa awal dikembangkan melalui dukungan beasiswa dari Departemen Agama (Depag); sekarang Kementerian Agama (Kemenag). Dukungan tersebut mampu mendorong berjalan dan berkembang PPs, sehingga banyaknya mahasiswa dari berbagai daerah turut menjadi mahasiswa pada program tersebut. Pada saat itu, tercatat beberapa dosen senior dan terkenal di lingkungan IAIN se-Indonesia, seperti Prof. Dr. Harun Nasution, Prof. Dr. M Quraish Shihab, Prof. Dr. Azyumardi Azra, dan lainnya terlibat langsung menjadi pengajar di PPs IAIN Sumatera Utara.
Progam Studi Dirasah Islamiyah yang dijalankan di PPs IAIN Sumatera Utara membuka ruang luas kepada mahasiswa untuk memilih konsentrasi pembidangan yang sesuai dengan minat masing-masing. Pilihan konsentrasi tersebut juga membuka peluang pada pengembangan ilmu hadis melalui adanya peminat dalam bidang Tafsir Hadis (TH). Pada tahun 2009 melalui Depag diberi kesempatan kepada guru al-Qur’an dan Hadis untuk melanjutkan Progam Magister dengan pembidangan TH. Kesempatan beasiswa yang diberikan memberi peluang pada penguatan program TH, terutama hadis di dalamnya. Dalam perkembangannya, para mahasiswa yang memiliki minat dalam bidang TH, walaupun sebagian besar memilih konsentrasi dalam bidang tafsir, tetapi tetap saja selalu ada di antaranya yang menentukan pilihan dalam bidang hadis. Pada tahun 2015, TH “dimekarkan” menjadi dua program studi, yaitu Ilmu al-Qur’an dan Tafsir (IAT) dan Ilmu Hadis (IH). Pengembangan konsentrasi TH didasarkan pada pengembangan kedua bidang ilmu tersebut yang dipandang terus mengalami spesifikasi keilmuan. Upaya pengembangan keilmuan masing-masing melalui pendirian progran studi menjadi langkah untuk mendukung penguatan keilmuan dalam bidang al-Qur’an dan hadis.
Pengelolaan PMIH yang dikembangkan IAIN Sumatera Utara—yang saat itu juga telah bertransformasi menjadi UIN Sumatera Utara—digabung dalam satu kepengurusan dengan Program Doktor IH. Belakangan disadari penggabungan pengelolaan dianggap tidak efektif dalam pengembangan Program Studi IH masing-masing, terutama PMIH cenderung “diabakan” karena pengelola lebih berkonsentrasi pada pengembangan Progam Studi Doktor IH. Pada tahun, 2020 dilakukan pemisahan pengelolaan yang menjadikan PMIH menjadi mandiri dalam satu pengelolaan ketua dan sekretaris program studi. Pengembangan pengelolaan PMIH kemudian dilengkapi dengan kebijakan peralihan pengelolaan bahwa sebelumnya PMIH di bawah pascasarjana diserahkan pada Fakultas Ushuluddin dan Studi Islam hingga saat sekarang.[zh]