说到浮山峡必须要说起浮山堰，历史还必须追溯到一千五百年前的南北朝时期。南北朝在我国历史上是个南北分裂、群雄争霸的混战年代。到了梁初，南北争夺地点已经转移到淮河流域。宋末失掉淮北，南刘时魏又攻南阳，战线由淮北转向淮南。齐梁争夺天下，萧衍攻下建邺，杀了南齐东昏侯萧宝卷与和帝萧宝融兄弟，建立梁朝。当时南方陷于混乱，北魏乘机向南扩张。

    在淮河北岸的泗洪县境内，有一座潼河山，山的西侧，有一条高高的土岭，名曰"铁索岭"，岭长218米，顶宽60米，顶端最高处为23．3米。这条土岭，像一条巨龙潜入淮河深处。在淮河南岸的安徽省五河境内，也有两座山与淮北的潼河山相对，一座名浮山，一座名围山。就在浮山的西南、围山的东南山口处，又有一条人工修筑的土体与铁索岭遥相呼应，俨然像两尊雄踞的巨兽，在默默地相视。

浮山与潼河山间距1600米，淮河深槽靠浮山一侧。此处是淮河三峡的第三道峡口--浮山峡(安徽凤台间的峡山口为第一道峡口，安徽怀远县境内的荆山峡为第二道峡口)。据《泗虹合志》记载：潼河山"西铁索岭，乃梁武帝筑浮山堰遗址。"

    浮山堰，这座"以水代兵"的军事工程，它记录着南北朝军事史上的残酷与悲壮。但是，以当时的条件和技术水平而言，在淮河里筑这样的拦河大坝，其工程之巨，难度之大，不能不承认是中国军事史上的创举，在古代水利史上也是罕见的。由于当时历史条件和人们对自然认识深度的局限，浮山堰虽然只存在四个多月就被冲垮了，它却 在中国科技史上留下了不可磨灭的一页。据说当时回水上涨，淹地数百里，积水覆盖了今泗洪、五河、泗县、灵壁、固镇、凤阳、蚌埠、怀远、凤台、淮南、寿县、颍上、霍丘等县的大部和局部，积水面积6700平方公里。魏军向北撤退，寿阳城被淹，居民移向高处，魏在八公山东南另筑一魏昌城。

    据名史名胜资料载：山下有穴（仙人洞），淮水泛滥时其穴即高；水减时其穴即低。山形同一块碧玉漂浮在淮水中，因美丽而得名浮玉，人疑其山似浮，故名浮山。与隔岸巉石山相对峙，史学家称浮山为淮河第三峡。当时在此筑浮山堰，目的就是拦截淮河水去淹寿阳。

    访当地老人，说浮山北侧峭壁下有古景仙人洞、钓鱼台、烈马缝、纤夫踩磨的羊肠小道。山顶过去建有纪念苏东坡的浮空亭（宋建）、山腰有古刹灵岩寺 、有石龟驮明代嘉靖圣旨碑（今天去看只有龟身，没有龟头及碑）、清代右仰通知碑（毁于1972年）、有纪念罗成和杨六郎二将的饮马池、老子仙牛脚印。山西侧峭壁上有摩崖石刻大字。 据说拦河大坝的成功在当时居世界历史之最。 因山清水秀、景色奇特曾吸引历代骚客名人来此游赏、吟诗赞美，其中有白居易、李坤、苏东坡、秦观等。特别是曹操登灵山顶被山水所感动，吟出半句楹联，难倒大江南北墨客及后人。

站在浮山上，望着远处的炊烟，看到的是油菜花的金黄。沧海桑田，一千五百多年过去了，千余年的风雨剥蚀、水流冲击，千余年的人类耕作，目前，堰顶最宽处仍有近40米， 千年古堰，已成为苏皖两省交界处不可多得的历史遗迹和人文景观，也是千里淮河上一道独特的风景线，令人观之，感叹不已。