本寺坐落于石家庄市新华区清真寺街。

石家庄是解放后才逐渐形成的新城市、新省会（原河北的省会是保定），这里的清真寺也没有多悠久的历史，1907年时，此处总共才有20多户回族，都是从省内各地搬迁而来，来石后为了履行宗教功课租赁了一小块土地，建了5间简陋的平房。1917年却被洪水一洗无余。

此后，由回族古玩商人林恒葛、张洛海和刘洛臣等集资，购买土地重建清真寺。到了1925年马云亭和他的侄子马鸿宾两位将军添置土地。1926年甘肃武都来石任教长的王继先阿訇为进一步完善清真寺，四方奔募，除本坊穆民尽力捐资外，山西教育厅厅长马骏宇以及太原众穆斯林也慷慨捐助。

1969年河北省会有保定迁到石家庄后，随着各地汇集而来的穆斯林人口的增多，原有的清真寺已经不能适应需要。1987年哈吉，伊布拉欣丁清轩来石任阿訇，丁阿訇动员政府和周围回族企业家、干部、职工等捐款捐物。1991年成立了重修清真寺筹建委员会，丁阿訇等人为此做出了大量的准备工作后，于1992年9月21日举行清真寺扩建工程奠基仪式，1993年10月交付使用。接着于1994年12月22日清真寺主体二层礼拜殿大楼破土动工，1995年11月大功告竣。