全国人大图书馆原名“全国人大常委会办公厅图书馆”，成立于1955年1月。

建馆之初，主要开展馆藏整理、编译、采编、借阅等工作。1969年，“文革”期间停止业务工作。1980年，图书馆重建。1997年更名为“全国人大常委会图书馆”，由行政单位改为全额拨款事业单位,除建立和完善各项管理制度和业务工作流程外，开始尝试业务工作的自动化管理。2000年以来，图书馆逐步从传统服务型向研究服务型转型，一方面，加强了对现有人员的培训，招收了信息技术专业、法律专业、图书馆学专业、管理学专业背景的应届大学本科生和研究生；另一方面，重新规划了馆藏结构，开展了数字图书馆建设，加大了资源开发的力度，拓展了服务内容和服务手段。2002年，数字化一期工程完成，“图书馆之窗”网站在机关内网开通，2006年1月，更名为“全国人大图书馆”，服务范围有所扩大。完成数字化二期工程，数字资源大量增加并实现整合，网络服务功能增强。2007年，开始直接为人民代表大会、常委会会议提供专题资料服务。

本馆为全国人民代表大会、全国人大常委会、委员长会议服务，为全国人大常委会组成人员、专门委员会组成人员、全国人大代表和机关工作人员提供文献信息，向具有人大特色的研究服务型现代化图书馆迈进。