齐齐哈尔市图书馆始建于1906年5月，建馆初期隶属于黑龙江省将军署学务处。l908年7月，在省城西关外嫩江畔原普恩寺旧址建图书馆舍，定名为黑龙江图书馆。1925年迁至省教育厅内，称黑龙江省立图书馆。1930年在龙沙公园望江楼南侧建新馆舍为三层宫殿式仿古建筑，名为黑龙江省图书馆,1954年原黑龙江省和松江省两省合并后，更名为齐齐哈尔市图书馆。由于其历史悠久，馆藏丰富，在国内文化界中，享有“塞北藏珍第一家”的美誉。　经过几代人的艰苦努力，齐齐哈尔市图书馆成为我省西部地区藏书、图书目录、文献检索、信息服务以及图书馆业务研究、交流的中心。古籍藏书已形成独有特色，一些海内孤本成为了研究古代历史和文化的宝贵文献。曾两次被评为“国家一级图书馆”，被国家文化部授予“文明图书馆”和“全国文化系统先进集体”称号。目前，馆藏图书达到110万册（卷），每年接待读者30多万人次。

齐齐哈尔市委、市政府今年投资7000万元，建设图书馆新馆。新馆建筑面积达2万平方米，服务功能更加完善，借阅环境更为优越