清真寺位于大南门江岸上(清真寺街7号)，建于明宪宗成化六年(1465年)，当时面积较小，取名“清真堂”。咸丰十一年(1861年)毁于兵焚。同治九年(1870年)由回民筹资在原址重建并扩大规模，改名“清真寺”。寺内原有中文、阿文碑记、匾额、对联约五六十件。还有铜鼎、字画六方宫灯，这些珍贵文物全在文化大革命中被毁。1981年安庆市人民政府拨款重修大殿。

    清真寺占地面积1829平方米，建筑面积为1091.2平方米。寺内有两组建筑合成。一组为礼拜正殿、厢堂、客厅，主要建筑有无像宝殿，宝殿长25米，宽23米，面积为575平方米，高20米左右。系宫殿式砖木结构，有木柱56根，雄伟壮观，供回民念、礼、课、朝五功之用；另一组是阿訇住所、开经学、沐浴室、养正堂，计面积327.86平方米。整座建筑构思巧妙，殿堂宏大，庄严肃穆。此外环绕殿宇内外有隔墙、照壁以及过门、垂花门等，布局精美，风格与其他佛庙寺宇迥然异别。该寺为长江中下游负有盛名的伊斯兰教清真寺院。