广州市立第二职业学校创办于1928年6月。鉴于社会上对普通土木技工人员的迫切需要，乃选择西关高岗原贫民教养院旧址，创办初级职业学校。设土木、建筑两科，学习期限二年毕业。

任卢德为校长。1929年，改为高级职业学校，将原土木、建筑两科合并为高级土木工程科，学习期限三年毕业。并增设汽车驾驶科，学习期限半年毕业。1931年1月，增设高级测量速成科，学习期限半年毕业。

1932年4月，改校名为广州市立工科高级中学。同年8月，再改为广州市立第二职业学校。任刘百畴为校长。增设高级机械工程科。学习期限三年毕业。

1933年，增添实习机械和护建实习工场。1936年8月，市立第三职业学校合并于本校。任张辰为校长。迁校址于东沙路淋水岗。扩大学校规模，设高级土木工程科、高级机械工程科、初级电气工程科、初级应用化学科、初级印刷制图科和汽车驾驶修理科。初级各科学习期限二年毕业，高级各科三年毕业，汽车驾驶修理科一年毕业。1937年2月，停办初级应用化学科，初级各科学习期限延长为三年毕业。这时，在学学生达六百多人。总计自创校以来，十三年间，共毕业五百七十五人。广州沦陷后，停办。