苏仙区图书馆（原郴县图书馆）始建于民国20年（1931年元月），名为郴县县立图书馆，1939年更名为郴县民众教育馆，直至解放。新中国成立后，图书馆与人民文化馆合署办公。1956年成立郴县图书馆，地址设在现郴州市人民东路，馆藏图书万余册，设有外借室、阅览室，1957年在文化路兴建一栋二层楼面积1016平方米馆舍，内设书库、阅览室、外借处。1958年郴县分为县、市，图书馆划归市管辖。1959年郴县、郴州市、资兴县合并为郴资县，图书馆又归郴资县管辖，馆址仍设在郴州市文化路。1960年郴资县分家，设郴县、郴州镇、资兴县，1977年郴州镇改为市，图书馆又归于市管辖。1981年10月成立郴县图书馆。

1982年4月经省文化局批准正式发展为公共图书馆，馆址设在郴县文化馆院内。1988年由省、县共同拨款20万元兴建馆舍，1990年10月竣工对外开放，建筑面积 1795. 58平方米，其中书库 500平方米，学术报告厅406. 66平方米，阅览、外借、办公 889. 8平方米。

1995年撤县建区更名为苏仙区图书馆。