民国19年，上海中国回教学会创办，校址青莲街222号。建校初期由哈少夫、马晋卿、杨叔平、伍特公、沙善余、伍卿元、伍咏霞、蒋苏戡、杨稼山9人成立校董会。哈少夫任校董会主席，沙善余任校长。王修梅任教务主任，周勤任训育主任，伍特公任事务主任。学校初期招收学生200余人，至民国25年学生达600余人，学校成为6年制的完全小学。学校向社会公开招生，其中回民学生占35%。由于教学成绩优良，曾获上海市教育局、社会局的嘉奖，称为“最优异之私立小学”。民国26年八一三事变爆发后，因校址沦陷，迁入法租界南阳桥永华里34号。太平洋战争爆发后，学校拒绝向日伪当局登记，学校停办。由教师自办，更名敦和小学。次年，在青莲街222号原校址创办正明小学，敦和小学并入正明小学。民国35年，增设初级中学一个班级，取名大化中学。次年，恢复原校名为敦化中小学。沙善余继任校长。

上海解放后，经上海市军管会市政教育处任命，金幼云于1949年7月任敦化中小学校长。政府对少数民族办学实行优惠政策，教职员原职原薪，待遇不变。扩大回族学生录取名额，增加免费就读名额，提高助学金金额，对贫寒子弟发给寒衣，实行医疗补助等，学校进一步发展。1956年2月，经人民政府教育部门批准，1957年10月将中学部分迁到沪太路1000号，更名为上海市回民中学。敦化小学更名为邑庙区回民小学校，后又更名为南市区第一回民小学校。