郴州市北湖区图书馆，始建于民国20年（1931年）元月，名为郴县县立图书馆。1939年更名为郴县民众教育馆，直至解放。新中国成立后，图书馆与人民文化馆合署办公。1956年成立郴县图书馆，地址苏仙路（现人民东路），馆藏图书万余册，设有阅览室、外借室。1959年在文化路建有一栋二层面积1016平方米馆舍，内设书库、阅览室、外借处。1960年1月正式改名为郴州市图书馆，配备工作人员4名，直属市文化局领导。

文革中，馆藏图书被查封，人员调离，1967—1972年仅留一人看守，图书馆事业被迫停顿，图书刊物丢失、损坏、外借不还者近万册。1973年恢复业务工作，至1986年藏书达8万余册，开展外借、阅览业务。阅览室座位160个，日均开放6小时。

1986年12月，因馆舍陈旧、狭小，经市政府批准，将房产转让，并重新选址建新馆于人民西路107国道旁。1988年闭馆，因资金不到位，主楼工程直到1992年6月才动工，1993年9月主体工程竣工，总投资235万元，实际到位 183.5万元，缺口 51.5万元，时至今日尚有 28万元未还。1995年郴州撤地建市，县级郴州市改为北湖区，郴州市图书馆更名为北湖区图书馆。