西宁市水城门清真寺位于西宁市七一路119号北小街口，因地处东关水城门口而得名。始建于清同治初年，清光绪21年(1896年)遭兵燹被毁，民国11年(1922年)重建，是西宁东关地区比较古老的清真寺之一。当时清真寺占地面积2200平方米，修建了砖木结构单脊两流水礼拜大殿九间。院内东南北建有土木结构平房十六间，分别为阿訇宿舍和满拉宿舍、教室、水塘、煤房、伙房。1958年宗教改革时，寺院被西宁市城东区铅丝社占用，1962年铅丝社为了扩建厂地，将水城门清真寺建筑物全部拆除，修建了厂房。

1980年党的民族宗教政策落实时，将寺院部分房屋归还给清真寺，1980年12月2日经市委统战部批准恢复开放。寺院批准开放后群众聘任马兆瑞、谢有录为开学阿訇。1986年马兆瑞因病去世，谢有录一人担任阿訇。1981年2月3日由马忠良、张杰、马吉林、马永贵等人负责，在本方者麻提和西宁地区部分信教群众中捐资十六万余元，于1983年3月1日动工重建水城门清真寺，修建砖混结构礼拜大殿二层上下十四间及两座唤醒楼。北建砖混结构三层楼一栋，东建砖混结构二层楼房一栋，南建砖混结构二层楼房一栋和土木结构平房二间，1987年5月寺院建筑全部完工。2006年重新扩建，于2007年8月30日举行清真寺扩建竣工典礼。该寺采用了传统的中国古典式建筑风格，整个大殿古朴典雅、宏伟壮观。同时修建了与大殿整体相配的五层楼高的唤醒阁（宣礼楼）等仿古式建筑。寺内有三米高的屏障，两侧有两个圆形门，寺院大门顶有水泥刻制“水城门清真寺”字样。修建工程先后共耗资约50万元人民币。寺院外有卧各夫房屋（寺院公房）五十六间，出租给他人。