林联辉是第四批留美幼童，曾和梁诚一同就读麻省安道渥（Andover）的菲利普学校（Phillips Academy）。“召回”后，他被分配到北洋医学堂（Viceroy's Hospital Medical School）。担任李鸿章的医官， 这是李鸿章创办的中国第一所西医学校；因为一位英国医生曾治愈李家人的重病，李鸿章相信而且重视西医。林联辉是这位英国医生的得意弟子，1885年，他和他的留美同学金大廷、何廷梁、李汝淦、曹茂祥、周传谔一起毕业。他留校任教，甲午战争前已经担任校长（总办）。