水濂禅寺位于桐柏县城西六公里的山峡中。殿堂后面，紧临一座百米峭崖，一弘山泉自崖巅倾泻下来，活像一条水晶挂帘悬在空中，将峭崖上部的一座天然石窟遮掩在幕后，称为水濂洞。寺因此为名。

此处原为道教"七十二福地"中，列于第四十一位的桐柏山道教胜地的组成部分。始建于宋元佑三年（1088）以前，明万历二十七年，清乾隆、嘉庆年间，都进行过修建。原有山门一间，中殿、后殿各三间，另有陪房十间。直到1956年房舍毁坏无遗，道人活动终断。1983年，这里被划定为游览开放区以后，各级政府为了落实宗教政策，决定将这一禅寺重加修建，先后拨给修建经费近十万元，加上各方面资助建设费用十余万元，建造山门5间，大殿5间及厢房等房舍共16间；另在北面盖有大僚、招待室、僧舍等15间，自此，正式改为佛寺。现住僧尼12名，由省佛协常务理事传虚、妙空任主持。桐柏佛教协会也设于此。这里遂代替了云台寺的地位，成为桐柏山佛教活动的中心。