Artikel ini akan menjelaskan tentang perkembangan madrasah yang ada di Kudus pada kurun abad XX. Madrasah adalah salah satu lembaga pendidikan Islam yang muncul pada abad XX. Madrasah muncul karena adanya pengaruh pembaruan Islam di Timur Tengah serta adanya pergerakan nasional di Indonesia. madrasah muncul di Kudus sebagai lembaga formal mulai tahun 1919 yaitu Madrasah Qudsiyyah. Sebelumnya juga muncul madrasah berbasis nonformal yaitu Madrasah Mu’awanatul Muslimin pada tahun 1818. Kedua madrasah ini mempunyai andil besar dalam pendidikan Islam di Kudus salah satunya yaitu pemerataan pendidikan bagi warga Muslim Kudus yang belum mendapat akses pendidikan. Dalam kenyataannya, kedua madrasah ini mengalami dinamika serta tantangan dan rintangan pada Abad XX. Namun kedua madrasah ini tetap dapat mempertahankan kekhasan sistemnya ditengah arus pada saat itu. Hasil penelitian ini menunjukkan bahwa pendirian Madrasah Mu’awanatul Muslimin dan Madrasah Qudsiyyah diilhami oleh adanya pendidikan yang belum merata bagi masyarakat Kudus pada Abad XX serta pengembangan dari model pendidikan Islam yang berupa pondok pesantren. Dalam sejarahnya, kedua madrasah ini mengalami tantangan dan rintangan yang cukup sulit pada masa penjajahan baik Belanda maupun Jepang. Namun kedua madrasah ini dapat terus mempertahankan eksistensinya. Hal ini didukung oleh beberapa faktor diantaranya adanya dukungan dari masyarakat sekitar dan tokoh agama, mempertahankan kurikulum khas masing-masing dan adanya peranan dari alumni.   Kata Kunci: Pendidikan Islam, Kudus, Madrasah Mu’awanatul Muslimin dan Madrasah Qudsiyyah.