林舒谦出生于1911年，曾就读于厦门大学中文系，还未毕业就离校投身革命。抗战期间，他参加福州文化界救亡协会，担任戏剧股长，率团到各县演出，宣传抗日救国。从此，他从事剧本写作，成为剧作家。

1954年，林舒谦整理闽剧传统剧本《炼印》，故事以清末两个苏州公差为主角，十分曲折。经林舒谦改编后，该剧参加当年华东地区首届戏剧观摩大会，斩获剧本一等奖，并由上海天马电影制片厂拍成戏曲艺术片。几年前，这部剧被改编成电视剧《苏州二公差》，由当红明星吕颂贤、蒋勤勤主演，红极一时。

此后，他创作了《六离门》、《牧羊歌》等，都获成功。其中，《六离门》还作为闽剧的代表，参加建国十周年大庆汇演。当时周恩来看后点评说，“母子大辩论，好戏，叫老干部的母亲都看看。”这部戏也成为林舒谦先生最满意的作品。

1983年10月林舒谦因心肺衰竭去世。