據寺內現存碑文記載，大穆斯林寺始建於742年，距今已有1250多年的歷史。在這座古廟裏，最著名的是壹座木牌坊和壹座石牌坊。其中，木牌樓在寺廟的第壹個院子裏。牌坊立於磚雕墻的對面，飛檐鬥拱各異，屋頂玻璃覆蓋，十分壯觀。牌坊建於17世紀初，距今已有360多年。
廟裏的石牌坊位於第二個院子的中央，有三根柱子。中間門楣上刻著“天在此處”，兩翼是“敬業有禮”和“秦怡趙石”。東西兩側有走道，四周有石欄桿。這座石牌坊建於明代。