此寺建于清康熙年间,清道光三十年重修。《重修京都德胜门外马店礼拜寺碑记》碑,碑中记云“……年久失修司事……大殿广十六间……殿出左庑为讲学经台右庑为清真小学讲以台……大殿外房间凡廿有一……”。1946年大修,1983年至1984年大修恢复原貌。
大殿坐西朝东,寺中有“永垂不朽”、“清真古教”两通碑。山门歇山顶砖石结构,拱券门上有汉白玉匾,上 书-“清真寺”,入山门北配殿三间为办公室,南配殿为水房,垂花门有大抱鼓石,以西有月亮门一座。进垂花门后为大殿,两侧为南北讲经堂,北讲经堂西有女大殿一栋,南讲经堂西为学习班。整座寺院共计房屋77间,是海淀规模最大的一座清真寺。
1999年被公布为海淀区文物保护单位。