从“白马洞天”原址向东三里路，便是著名的“三圣古寺”。关于“三圣古寺”的由来，有一段美丽的传说。相传，北宋年间，有三位得道和尚路过鸠兹（芜湖古称），行至白马山时，被“白马洞天”美丽的风景所吸引，正准备上山游玩一番，突然此时，天空电闪雷鸣、突降暴雨，三人连忙躲进山角旁的一棵白果树下。正在这时，只见天空白光一闪，响起一声炸雷，将白果树拦腰劈倒，而三位和尚却安然无恙。其中一位和尚突然看见西方有佛光闪烁，隐约中似乎看见了观音菩萨正在对他们微笑，三人连忙拜倒在地，感谢菩萨保佑。当地百姓知道此事后，便在他们躲雨的地方盖了一座寺庙，以方便那些善男信女们进香、躲雨。为了纪念那三位高僧，便起名为“三圣寺”。此事传到了宋徽宗的耳中，宋徽宗欣然提笔赐书“三圣古寺”。一时间，香火十分兴旺。到了元朝，“三圣古寺”和“白马洞天”已经成为当地的著名的景点。当时芜湖县的县尹欧阳玄还特地写了一首诗来描写其美丽的景色，其中“紫燕飞来如有约，玉骢驰去竟无踪”更是成为脍炙人口的名句。

“三圣古寺”几经战乱的破坏，几次修复。最严重是在明朝初年，因为战争，“三圣古寺”已经毁灭，原址已是断墙残瓦、杂草丛生。直到成化年间，有一位叫葛志宽的人，在民间奔波二十余年，募得钱款将“三圣古寺”修复。“三圣古寺”又成为当地香客云集之地、香火十分旺盛。

“三圣古寺”与解放前再次遭到破坏，已不复存在。改革开放后，住在白马山下的几位善男信女，在与原来“三圣古寺”相隔不远的地方，未经过有关部门批准，修了一座寺庙，烧香拜佛，后给有关部门拆除。到了一九九三年七月由白马山、永胜村、四联行政村赵世芳及众居士来到了芜湖东梁山的铜佛寺，邀请该寺的住持释慈云来到白马山下，主持“三圣古寺”的修复工作。将历史悠久的“三圣古寺”修葺一新。“三圣古寺”正式完成重建工作。

 一九九五年一月二十四日，由芜湖县宗教局、统战部组织成立了芜湖县佛教协会，释慈云担任会长、常务理事、政协委员，“三圣古寺”正式对外开放。“三圣古寺”每月两次的庙会香客、游人，摩肩接踵，香火旺盛。迎来了全国各地的佛教信徒。