该馆前身“学海图书馆”初建于民国17年（1928）3月，由原县教育局长李崇本倡导发起创办，其个人捐书941卷计2748册，为嘉禾公共图书馆之始。次年，更名为嘉禾县图书馆。1936年省教育厅分发给嘉禾《万有文库》一、二集共3440册，并改设为“县民众图书馆”。1940年9月，撤销“县民众图书馆"成立“县民众教育馆”，内设“图书室”，藏书6050册。后因管理不善，战事纷繁，阅览者甚少，该馆时停时办，一直延续到1949年。1950年11月，县人民政府批准成立“县人民教育馆”，内设图书室，一直延至 1983年10月，共有藏书 13万册。

1983年10月27日，经上级批准成立“嘉禾县图书馆"，接收原县文化馆图书室图书1.3万册。1984年3月，投资20万元新建馆舍，由肖克将军题写“嘉禾县图书馆"馆名。馆址位于嘉禾县城人民北路28号，占地1838平方米。1994年12月至1996年5月投资50万元扩建阅览大楼。现共有业务用房 1390平方米，生活用房530.3平方米。

该馆编制9人，其中本科1人，大专4人，中专1人，高中3人。馆内设有综合外借处、报刊阅览室、少儿阅览室、参考咨询室、过刊查询室、采编室、肖克将军赠书专藏室、各界人士赠书专柜特藏室。现有图书 6.15万册，其中社科图书占 50%，工业、农业、工具书占有一定比例，地方文献收藏较全，成为该馆藏书工作中的一大特色。并分别设有专门目录，专柜和专人管理。

该馆经常送科技图书下乡。充分利用馆藏资料和科技信息为读者服务，引导读者走科技致富的道路，联系扶持重点科技读者20余户。每年接待各类读者均为6万多人次，外借图书 2.8万余册，解答各类咨询课题近 400个。该馆的《科技读者群带来丰硕的经济成果》和《走出馆门，服务社会》分别获湖南省公共图书馆为两个文明建设服务成果二等奖和三等奖。

从1983年建馆至今，该馆先后被评为“省文明卫生单位”“省文化系统先进集体”“省文明图书馆”“省文化工作先进集体”“市文明建设先进单位”“县文明标兵单位”，1994年和1998年两度被文化部评定为“国家三级图书馆”。