Sebelum kurun ke 20, sistem pengajian agama yang wujud di negeri Johor hanyalah dalam bentuk sistem pondok iaitu murid-murid belajar agama di madrasah atau di pondok atau di rumah yang dipunyai oleh tok-tok guru, alim ulama, dan orang-orang yang dianggap memiliki ilmu agama di kalangan masyarakat setempat. Pada masa yang sama mereka juga diajar dengan ilmu-ilmu kemahiran lain seperti ilmu mempertahankan diri, ilmu kemahiran hidup dan sebagainya.
Selepas tahun 1985, sekolah agama ini dikenali dengan nama Sekolah Koran (Quran). Menurut kajian sekolah al Quran yang khusus diadakan oleh kerajaan Johor adalah Sekolah Seri Kopi, Johor Bahru yang telah wujud pada tahun 1901 (Projek Pelajar-pelajar Kewartawanan, Kajian Sebaran Am, Institut Teknologi Mara, 1987:23). Sekolah Seri Kopi ini kemudiannya berpindah ke Sekolah Melayu Air Molek kemudian kepada Sekolah Agama Bukit Zahrah dan kini di Sekolah Agama Bandar Johor Bahru. Menurut kajian Arbaiah Bte Soehod pula, sekolah al Quran pertama di Negeri Johor adalah sekolah al Quran Kukup, Pontian pada tahun 1907 yang menumpang di Sekolah Melayu Kukup di sebelah petang dan dibina dengan bantuan kerajaan. Berasaskan manuskrip asli Syair Abdul Rahman yang menyentuh pendidikan agama, di kawasan Padang, Muar pendidikan agama berasaskan al Quran telah bermula sejak tahun 1850-an lagi di Muar(Rahimah Abdul Aziz dan Rahmat Saripan, 2002:71).
Berdasarkan rekod yang dipercayai, sistem sekolah agama ini hanya menawarkan pembelajaran darjah 1 hingga darjah 5 sahaja antara tahun-tahun 1918 hingga 1927. Kemudian pada tahun 1929, kelas Darjah Enam Sekolah Agama petang Kerajaan Johor dibuka dan akhirnya pada tahun 1930, kelas Darjah Khas dibuka kepada murid-murid lepasan darjah enam yang berkelayakan sebagai persediaan untuk menjadi guru agama atau jawatan-jawatan lain berkaitan keagamaan. Pada awalnya, murid lelaki sahaja yang bersekolah namun semakin hari murid perempuan juga minta diberi ruang untuk belajar. Sekolah Agama Bukit Zahrah adalah sekolah agama yang mula-mula menawarkan pengajian sekolah agama sebelah pagi.