Jalan masuk ke madrasah dari jalan utama Muar - Batu Pahat

Pemandangan bahagian hadapan Madrasah yang sudah dilupa dan ditinggalkan.........

Pada tahun 1920an, Penghulu Hj. Hassan bin Hj. Taib (Penghulu Pt. Jamil Muar) dan adiknya Hj. Jaafar dengan bantuan orang-orang kampung telah mendirikan sebuah madrasah Bahasa Arab yang diberi nama Al Madrasah Al Khairiah.

Disamping itu Hj. Jaafar dengan inisiatif sendiri telah mendirikan sebuah Sekolah Inggeris yang berhampiran di situ. Dengan ini kampung Parit Jamil telah menjadoi sebuah kampung yang unik dalam daerah Muar dari segi kemudahan persekolahan dan pendidikan.

Pada tahun 1921, mereka dua beradik telah mendirikan sebuah bangunan sekolah yang baru yang  boleh menempatkan semula kedua-dua sekolah dalam sebuah bangunan. Sekolah baru ini diberi nama MADRASAH AL HAJI TAIB mengambil sempena nama bapa mereka, Haji Taib peneroka kampung Parit Jamil itu.

Pada peringkat awal guru-guru yang diambil bertugas ialah bekas pelajar Sekolah Arab Haji Abu Bakar Alim, pelajar Sekolah-sekolah Pondok di negeri-negeri Melayu sebelah Utara dan bekas kerani-kerani pejabat. Selepas itu dengan beransur-ansur dapatlah diambil guru-guru yang lebih berkelayakan dari Singapura, Mesir, Sudan, Aceh dan Pulau Pinang.

Salah seorang gurunya yang sangat mashyur ialah Al-Sheikh Muhammad Tahir Jalaluddin iaitu ayahanda kepada Tun Tan Sri Datuk Haji Hamdan bin Sheikh Tahir, bekas Yang Di Pertua Negeri Pulau Pinang (lihat foto-foto di bawah). Malah Tun Hamdan sendiri mendapat pendidikan awalnya di Madrasah ini semasa ayahandanya berkhidmat sebagai mudir (pengetua) di Madrasah ini ; pada masa itu usia Tun Hamdan baru menjangkau lima tahun.

Pelajaran yang diajar ialah Bahasa Arab, Bahasa Inggeris, Bahasa Melayu, Matematik, Ilmu Falak dan Agama Islam. Bagi membantu dalam pengajaran agama, pihak Jabatan Agama Johor memberi bantuan sebanyak RM100 sebulan kepada setiap guru yang mengajar agama di Madrasah tersebut. Madrasah inilah yang mula-mula sekali mengambil inisiatif mengajar pelajaran agama kepada kanak-kanak perempuan di Muar. Ada kira-kira 20 orang kanak-kanak perempuan diterima masuk belajar di sini. Jumlah semua pelajar perempuan dan lelaki pada masa itu ialah 100 orang.

Madarasah inilah juga yang mula-mula sekali mengeluarkan majalah. Mula-mula sekali guru-guru madrasah ini menubuhkan sebuah persatuan dinamakan Persekutuan Suluh Pelajaran Muar. Persekutuan inilah yang menerbitkan majalah yang dinamakan 'PENYULUH'. Matlamat majalah ini ialah memberi pendidikan moral dan budi pekerti kepada para pelajar. Percetakannya dibuat di Parit Jamil oleh Syarikat Muhamadiah Press Parit Jamil.