清真古寺位于解放南路东侧，大门前就是熙攘攘的繁华大街。该寺始建于唐贞观年间，历代均有修建，现在我们所见到的寺庙为明代所建。清真寺殿砖木结构，殿内四壁绘有阿拉伯式图案，色彩艳丽，线条细腻，在富丽堂皇之外还有一种异域风情。殿内还刻有阿拉伯文《可兰经》经文数段，殿外的左右碑亭内有不少名家碑刻，如黄庭坚、赵孟頫、方孝孺等人的手迹。

古寺坐西朝东，两进院落，寺内有大殿、讲经房、省心楼、碑亭、沐浴室、会议厅、阿訇室等建筑。前院内有明代建筑的双层省心楼，重檐歇山顶，檐桷晕飞，彩色熠熠。楼后建有左右对峙的两座六角形碑亭，内藏碑刻。南碑亭内有一碑刻为清同治七年(1868)所立，碑文正面镌刻明太祖朱元璋敕赐的“至圣百字赞”。