Madrasah merupakan sebuah wadah pendidikan yang melalui masa proses yang panjang sebagai institusi pendidikan. Munculnya madrasah sebagai sebuah institusi pendidikan tinggi pasca lembaga pendidikan non formal pada masa-masa sebelumnya dikarenakan makin meluasnya daerah Islam serta berkembangnya ilmu pengetahuan yang mengakibatkan harus dipertimbangkanya lembaga-lembaga pendidikan tersebut sebagai lembaga pendidikan Islam yang tidak lagi dianggap mampu dan memadai untuk keberlangsungan pendidikan Islam, terutama kepada mereka yang hendak melanjutkan pada jenjang pendidikan tinggi. Munculnya madrasah Nizhamiyah pada dasarnya merupakan reaksi terhadap berkembangnya paham Shi’ah pada waktu itu, yang dimulai sejak abad keempat. Paham ini nampak telah berkembang begitu pesat di banyak daerah Islam yang dipromotori oleh Dinasti Fatimiyah di Mesir. Mengingat bahwa untuk melawan Shi’ah tidak cukup dengan kekuatan senjata, maka pemerintah pada masa itu membentengi masyarakat dari pengaruh Shi’ah melalui jalur pendidikan. Maka sejak itu madrasah mulai berkembang secara Institusi dan berotonomi dari berbagai wilayah dan mengembangkan secara menyeluruh sebagai institusi yang berdaulat pada kekuatan elit politik Islam sebagai pemurnian ajaran islam sejak dini dan terlembaga secara hukum.