該寺始建于明萬歷四十四年（1616），正殿北拱門上方嵌有長方形青石“建修禮拜寺記”碑刻，文為：“直隸保定府，城守營都司官法公，系房山縣韓繼村人，見城內(nèi)無寺，每遇節(jié)日投鄉(xiāng)禮拜。法公定施資助，獨(dú)自修理，先買魏家菜園十二畝，四面至道，除蓋寺以外，地基許眾教親借住，官地私房。大明萬歷雨辰年立”。清代屢有重修，至光緒三十二年（1906年）馬小眉、馬國仁蓋起現(xiàn)有沐浴室，民國年間軍官馬良、馬景宜等捐資，由教長吳天元、伊瑪目馬玉麟主持蓋起南北講堂等，成現(xiàn)在格局。整個寺院坐西朝東，占地面積4.3畝，正門左右各有旁門1座，正門上嵌漢白玉“清真寺”名石匾（下署邑人子貞馬良），門內(nèi)3間對廳，順旁廊直通大殿，左右各題“忍美”、“學(xué)俊”，大殿共21間576平方米，可容6O0余人同時禮拜，殿前3道門，正門橫匾題為“普慈今世，特慈后世”，兩旁抱住描聯(lián)：“貴圣賢在西域傳經(jīng)典興古教認(rèn)主獨(dú)一”、“眾穆民來東土遵圣行守清真歸信無二”（原下署武營中哨安錫章）。正段分前后兩進(jìn)，窯殿為八角古亭，高7米多，使主體建筑顯得結(jié)構(gòu)精妙，莊重美觀，橫匾題u天方在鄉(xiāng)，柱聯(lián)為“主總無形心可悟，事留退步品真高”。大殿前院有南北講堂各6間，石碑 4通，林浴室13間，左右配房各 2間，另有民房44間，架子房3間，廁所3間，建筑總面積1964平方米。寺內(nèi)屋脊原多走獸形像，民國年間由白運(yùn)章出資全部改為花草形，以嚴(yán)格教規(guī)。本寺為華北名寺之一，坊內(nèi)教門興盛，曾出過許多知名爾林，如謝晉卿、楊玉珍、安士偉、楊永昌等。1911—1948年間先后任教長的有謝晉卿（保定人）、吳天元（保定人）、楊覲元（保定人）、李四阿訇（滄州人）、李三阿圖（京東北兆人）、李濟(jì)清（天津人）、王玉麟（高碑店人）、楊玉珍（保定人）、劉學(xué)真（天津人）、劉紹棠（武渭人），這些阿訇曾培養(yǎng)出大批宗教人才。另有散班阿匐林謙、郭清泉等教授啟蒙小學(xué)和成人中學(xué)。普遍習(xí)武為華北回族一大特點(diǎn)，武師中多有阿訇，校場往往設(shè)有清真寺，本寺內(nèi)部清泉阿訇曾培養(yǎng)出中外馳名的摔跤大師花蝴蝶常東升和跤手閆善益、馬文奎、安松泉以及白書田、馬文龍、馬漢卿、馬子榮、馬子明等少林武術(shù)教師。本寺內(nèi)曾興辦普通教育，清光緒五年（1879）《清真寺義塾碑記》載：“省垣人淵輻湊，生齒繁滋，無力延師者，均賴寺宇建設(shè)義塾。啟牖童蒙�！�1932年安古琴、閻達(dá)周、石彝珍等合創(chuàng)民眾小學(xué)，共6班3O0余人，至“七·七事變”后被迫解散。1946年成立“穆德州學(xué)，校長戴錫三，共4班10O余人，因教育改編，后遷到寺外更名為“回民小學(xué)”。