唐宋时期，来自阿拉伯、波斯的穆斯林蕃客们，在广州、泉州、杭州、扬州等地建立了中国最早的一批清真寺。当时的伊斯兰教主要在蕃客中流行，因此主持宗教活动及在寺内讲经说道者均为阿拉伯或波斯的穆斯林。他们多系来华贸易的商人，经常往来于中国与阿拉伯、波斯之间，其中不乏宗教知识丰富的人才，无须在华培养宗教的接班人。

元代，陆续东来的大批回回人在中国各地定居，所到之处要建立清真寺进行宗教活动。这些回回人中也不乏穆斯林学者，其中充任回回大师（阿訇）、回回哈的（执掌教法者）或取得答失蛮（宗教学者）身份的人不少，在泉州清净寺任掌教的夏不鲁罕丁就是他们的代表。他们通过口传心受的方法对子弟进行宗教知识的灌输，使之成为自己的接班人。泉州清净寺扑克夏不鲁罕丁之后，其子夏敕以及后裔夏彦高、夏东升、夏日禹等陆续把持教务，一直到明代。这时还没有出现经堂教育。 明朝时期，回回民族已经形成，回民人口不断繁衍，分布日益分散，清真寺普遍设立，原来那种仅靠外来学者及其弟子充当阿訇的办法已不再适应发展了新局面，而需要一大批阿訇在各地主持寺务和宣讲教义。明中叶以后，明王朝采取“片板不许下海”的闭关锁国政策，致使海外交通闭塞，外国穆斯林进不来，中国穆斯林也不可能出去学习宗教知识。因此，中国伊斯兰教宗教职业者后继乏人的现象日益突出。随着回回民族的形成，汉语成为这个民族的共同语言，原来穆斯林使用的阿拉伯语、波斯语、中亚各族语，不仅不再通用，甚至被称作“夷言”、“胡语”，渐被遗忘；同时，人们都在积极学习中国传统的汉文化，对《古兰经》等伊斯兰教经典缺乏学习和了解，只知其然而不知其所以然，甚至缺乏学习伊斯兰教经典的热情，遇有非穆斯林的语问或责难便茫然武艺不知所措。要使伊斯兰教得以保存和发展，就必须自己动手培养宗教人才，开创中国经堂教育的问题于是便成为伊斯兰教界的燃眉之急。明中叶以后，回族经济的稳定发展，使穆斯林在清真寺内培养宗教接班人有了比较稳固的经济基础，中国伊斯兰教的经堂教育遂应运而生了。 根据现已掌握的各种资料可以肯定，中国伊斯兰教经堂教育的创始人是胡登洲（1522-
1597）。胡登洲，字明普，陕西咸阳市郊区渭城人，回族。家业丰裕，富甲乡蟛。幼习儒书，后随本乡一位姓高的穆斯林学习伊斯兰教经典。在学经过程中，他曾打算将这些经典译成汉语以广为传扬，但因学识不足，力不从心。在年近五旬时，他客居北京，崇延名儒，谙习诗书，使汉文化水平有了很大提高。同时，他还拜途中所遇一来华的阿拉伯缠头叟为师，学习《母噶麻忒》等当时中国尚未流传的伊斯兰教经典，学问大进，使自己成为既懂伊斯兰教又懂儒家学问的“经汉两通”学者。

过去有一种误传，说胡登洲朝觐天方归来后便立志兴学。但是我们从康熙五十七年
（1718）马凤翥撰写的《胡太师社祖佳城记》中，从康熙三十六年（1697）真回破衲痴（舍起灵）所传的《经学系传谱》中，却都没有找到胡登洲朝觐天方的记载。胡氏曾“越皋兰，过允吾（即庄浪卫），渡黑河，达甘肃，西出嘉峪关”，但那不是去朝觐，而是怀着眷恋之情送其阿拉伯恩师西返。他二人出嘉峪关后，是在中国境内分手的，缠头叟继续西行，胡登洲返回陕西故里。从此，他便在家里招生授徒，被后人呼为“胡太师祖”，“远近负笈来学者，师祖悉为供给”。于是，中国伊斯兰教经堂教育的序幕拉开了，胡登洲所创立的这种私塾式的经学教育，便是中国经堂教育的雏型。

胡登洲办学后，授徒约百数，可谓桃李满天下，便其中学业最著者仅冯阿訇及海巴巴二
人。自此二人以后，百有余年，学者之多，人才之盛，宛如列星。伴随着经堂教育的普遍开设，各地陆续出现了一些各具特色的经学学派。

陕西学派，以胡登洲及其初传弟子为代表。他们注重学问的“精而专”，强调伊斯兰教哲学的教学与研究。胡登洲深明正心诚意之学，贯通尽性穷理之源，精于伊斯兰教辩证法学，传授大伊玛目哈乃斐教法，被人称作“阿补·哈尼法之贤助”。胡登洲的弟子冯阿訇，俗称“冯二巴巴”，著有《米萨依德·纳直》，系用阿拉伯文所写问答体教义著述。陕西学派一般专攻阿拉伯文经典，甚至仅专攻一门认主学；如欲兼学另一门课，须另择老师讲授。

山东学派，以堂志美（蕴华）、李永寿（延龄）为代表。按金吉堂《中国回教史》云，堂志美的祖先为撒马耳干人，他9岁时随其叔奉使押一狮入贡北京，留居陕西，从胡太师祖第四代门人学；后至山东济宁，与当地常姓联宗，遂姓常。然而在常志美的得意门生舍起灵所传《经学系传谱》中，却没有这种记载。按《经学系传谱》载，常志美与李永寿都是济宁人，而且是表亲。幼时，二人同读儒书，后又同习伊斯兰教经学。曾一起就学于胡登洲的四传弟子马真吾，因马师不能满足他们的学习欲望，转投到胡登洲的三传弟子张少山门下。常氏侧重攻读《那哈吴》及《白亚尼》，李氏侧重学习《费格哈》。不到两年，各成其学，遂同归济宁，隐于峄山岩洞内，互教互学，共同提高，待学业纯熟后始出山设馆，授徒满南山。著名经师舍起灵、伍遵契、马鸣皋、米成济、马伯良等均出其门，遂形成经常教育的一个新中心。常志美也被誉为“常仙学”、“常筛海”、“常巴巴”。山东学派的特点是注重学识的“博而熟”，长于波斯文法，阿拉伯文与波斯文兼授，讲究教法和教法学，同时讲授认主学和苏非哲学，讲课时注意循序渐进，由浅入深。山东学派中不少人都有著作。如堂志美编著的波斯文法《海瓦依·米诺哈吉》，不仅国内穆斯林学者推崇，据说还一度享誉“西域天方之国”。弟子舍起灵，字蕴善，渭南人士，译有《醒迷录》；由他口传，其弟子赵灿撰写的《经堂系传谱》，是一部珍贵的中国经堂教育史文献资料。弟子米万济，字敬公，北京人，著《教款微论》，丁澎曾为之作序。弟子马伯良，字忠卿，济宁人，著有《教款捷要》。弟子伍遵契，字子先，南京人，译著《修真蒙引》，又与其兄弟子侄合译《归真要道》（即《米尔萨德》）。再传弟子常杰，字秀实，著有《舍凡雷哈凡拉一都》一册；曾手抄《波阿字典》三大册，至今尚存。 此外，还曾陆续出现一些小的学派。如兰州学派，以周老爷为代表，学风严谨，少而精，以讲深讲透、一丝不苟见长，云南学派，以马德新、马联元为代表，兼有陕西和山东学派之长，精通阿拉伯语，阿拉伯文著述颇多；东南学派，以王岱舆、刘智为代表，汉文化水平很高，学通儒、释、道、伊斯兰诸教，以汉文注释伊斯兰教经学，写出的大量汉文译著被称作“汉克它卡”（汉文经典）；河州学派，以果园哈吉马万福为代表，重视教法教律的研究，大力提倡改革不合教法的礼仪，是从重视认主学向强调教法不过渡的一个学派。 经堂教育在历史上对培养宗教人才，促进回族文化教育，起过一定的作用。随着时代的发展，到民国时期，它已不能适应回族文化发展的需要，创办新式宗教学校已经成为历史的必然趋势。于是1907年王宽（1848-1919）在北京牛街礼拜寺创办清真第一两等小学堂，揭开了中国伊斯兰教教育史新的一页，旧的经堂教育逐渐为新式宗教学校所代替。