济宁学院图书馆创建于1970年，初时只有11间平房140 平方米的图书室，后经多次发展变化，规模不断扩大。为了适应学校未来发展的需要，建筑面积为38400平方米的新图书馆于2005 年12月建成，2006年3月投入使用。

截止到2010年，馆藏图书（纸质）达100万多册，中文报刊6000余种，报刊合订本10万多册。电子图书50万册，电子中文期刊8000种。还收藏《四库全书》、《古今图书集成》、《永乐大典》等古典书籍的再版本各一套，图书馆楼是学校的标志性建筑。

图书馆内设书刊阅览室18个，基本书库2个，读者自修室2个，阅览座位3500余座； 200余座设备先进的报告厅1个、90余座的多功能厅1个、专家研究室8个。18个书刊阅览室（平均每个面积600平方米）全部实现文献的“借、阅、藏”一体化全开架管理。馆内设有1000个信息点，400多台计算机，既能检索校园网上的文献信息又与互联网相联，实现了“人、机、书”一体化。

图书管理集成系统采用“网信妙思文献管理集成系统（6.5版）”，该系统下有12个终端。拥有的数字资源包括：同方CNKI系列 “中文期刊全文数据库（23194386条数据）”、“ 中国优秀博、硕士论文全文数据库（659389条数据）”、重庆维普“中文科技期刊数据库（25610288条数据）”、超星电子图书数据库（17万册）、北大方正Apabi电子图书数据库（61371册）、VIP网络学习资源数据库（22721套题库）等。图书馆设有300台微机的多媒体电子阅览室2 个，室内为读者提供上机学习、上网浏览、查找资料、课题检索、收发邮件等服务。