铁水牛原坐落于沙、颍、贾鲁三河交汇处，现位于沙河北岸老桥上游桥头处。建于清光绪四年（1878年），是当时记载沙河水位涨落、汛期报警的标志。1935年周口沙河桥建成，铁牛从沙河、颍河、贾鲁河汇流处迁到现址，仍作为记载河水涨落的标志。十年动乱期间，清建的铁牛被当成"四旧"之物，化为铁汁。1982年7月经省政府批准重建，将原来的铁黄牛改为铁水牛。