清宣统二年（1910）九月，湘潭县立图书馆成立，这是湖南省最早的县级图书馆，但藏书不多。1925年，县立图书馆改名县立中山图书馆，管理人员1人。1929年又改名县立民众图书馆，时藏书155部，14976本，管理人员4人。1937年，并入县民众教育馆。1942年，民众教育馆藏书室藏书增至1.5万余册，其中有涓江郭氏捐赠的《二十四史》、《皇清经解》、《万有文库》等。1944年，藏书遭日本侵略军焚毁，仅保存转移至古塘桥的8000册。

1949年底，县人民政府接管县民众教育馆，改名县人民教育馆。1952年又改名县人民文化馆，内设图书室，藏书只数千册。1965年9月湘潭县图书馆建立，编制3人，时有藏书31650册。次年，“文化大革命”开始，馆藏图书全部被封存，停止开放。1969年1月，县图书馆并入县毛泽东思想文艺宣传站，建制撤销，图书大量被盗、被损。1973年8月1日复馆时，图书仅有万余册，县图书馆复馆后，逐年添置图书并充实专业人员，兴建库房，加强管理。至 1988年，藏书达 14. 52万册，其中古线装书 1.2万余册，《丛书集成初编》全套，影印本《四库全书》全套，少儿读物近万册，还有报纸87种，期刊224种以及各种地方文献资料，为湖南省藏书最多的县级图书馆之一。