民国34年，宗棣棠发起集资创办伊光第一小学校。学生主要是居住在大沽路、重庆路一带的穆斯林的失学子弟。民国35年，学校由李尊楷、李尊信、李尊一等组成校董会接办，经费主要依靠经营饮食业的穆斯林捐款。由于经费困难，该校勉强办了两个班级。

解放初期，校长沙子敬，教导主任马义轩，共办4个班级，学生近百人，由政府拨款补助。为改善办学条件，1955年由人民政府拨款，将该校迁至大沽路112号，改建成6个班级的完全小学。1956年，改名为新成区回民小学校。1959年新成区并入黄浦区后改名为黄浦区回民小学校。该校向社会公开招生，回民学生占50%。