1956年5月，中共上海市委决定将市委党校一部文化班、公安文化学校、商业干部学校合并，筹建上海市干部文化学校。这是一所未达到初中毕业程度的科长以上干部离职学习文化的成人学校。建校初，张耀忠任副校长兼党委书记；1958年春，顾玉良任校长兼党委书记，张耀忠改任副书记。

1960年春，根据上海市教育事业发展的需要，教育局决定筹建上海市教育学院，统一负责全市中学师资培训工作和干部培训工作。9月8日，由上海市中学教师进修学院、上海市教育行政干部学校、上海市干部文化学校和上海市自学广播学校合并而成的上海教育学院在中山北一路420号礼堂召开建院大会。

1998年9月，沪府（1998）36号文规定，上海教育学院、上海第二教育学院并入华东师范大学。

华东师范大学档案馆有上海干部文化学校档案139卷。