学校创办于1958年，位于福州火车站东北侧。前身为福州铁路中学（全称福州铁路职工子弟中学），是一所公立完全中学，隶属于上海铁路局福州铁路分局管辖，是福州市“文明学校”，上海铁路局“示范学校”。学校于2003年12月26日由福州市教育局整件制接收，更名为福州教育学院第二附属中学。

学校师资力量雄厚，有高级教师23名，中级教师60名。学校装备有先进的多媒体教室、电脑教室、语音室、多功能厅等现代化教学设施，图书馆藏书逾6万册。学校占地约75000平方米（110.78亩），校舍建筑面积达21000多平方米，校园环境优美清静，是学生学习成长的好场所。学校建有400米跑道的标准田径场、足球场，是学生练身健体的理想去处。福州铁路中学足球、排球参加福州市比赛，近年来多次名列前三名。学校教育教学管理严谨，教学效率高，2002年和2003年高考上线率均达65%。2003年福州市首次使用高考效率分，我校本科和大专效率分分别为14和1.475，列福州市区首位(福州市下达我校的任务指标为：本科0人、大专80人。而我校实际完成情况为：本科14人，大专114人)。