有关尼日利亚国家图书馆的想法最早产生于1940年。1953年联合国教科文组织在伊巴丹举行研讨会，建议联邦政府成立公共图书馆服务委员会。1956年政府接受了1955年奥博尔·恩维基纳先生设立国家图书馆的建议。1959年西非图书馆协会建议设立图书馆咨询委员会就政府建立尼日利亚国家图书馆一事提供咨询。日后成为美国医学图书馆馆长的罗杰斯先生来到尼日利亚，就拉各斯区域图书馆服务事宜向政府提供改进意见；1961年他向政府递交了一份报告，主张建立既能为政府服务又可起国家书目中心作用的国家图书馆。当年7月内阁批准了建议。为实施该决定，1962年任命卡尔·怀特博士为政府顾问；又陆续召回移居国外的4名图书馆员，筹备组织藏书事宜。1963年8月图书馆成为信息部下的正式小组，在1963年和1964年之间共招募了16名图书馆员、7名管理人员和非技术性职员。1964年11月6日在信息部长主持下正式开馆，当时有藏书15,000卷，期刊1000种，缩微胶卷300个。1965年卡尔·怀特离任，泰勒小姐接任，1966年则由来自福特基金会的最后一位专家兼顾问菲利普·拉波特担任尼日利亚国家图书馆馆长。

第一位本地馆长是1971年任命的普莱斯·阿吉博士，在其任期内图书馆于1979年从联邦信息部转归联邦教育部管辖。阿吉博士退休后，姆阿祖·瓦利从1986-1991任馆长。1991年尼日利亚国家图书馆获得自治权。现任馆长O.O.奥莫莱约莱女士1999年9月到职，2000年2月21日正式担任该职务。尼日利亚国家图书馆在38年中历经变革终于制度化，获得存在的根本保证。现正在为履行自己的使命——构建国家的历史、知识和学术数据库而奋斗。

根据1964年法律设立的国家图书馆董事会是一个独立团体。在1966年1月15日军事接管前未能任命。1966年成立了由豪森·赖特任主席，莱丹·祖鲁任秘书的董事会并于4月13-14日召开首次会议。按照军政府政策制订了管理国家图书馆的办法，政府于1970年5月2日颁布为国家图书馆董事会条令（1970年第29号令），其中一些条款分别于1979年和1987年予以修订，责令尼日利亚国家图书馆作为国家代表实施某些职责。

国家馆为进行书目控制和达到出版物共享，制订全国性书目开发计划和政策，配合国际标准提供尼日利亚资料著录规则；调节国家书目出版周期：月刊、季刊及年度累积本；研究并就国际图联和联合国教科文组织的ISBD、ISBN和ISSN项目做出自己的安排；在不同分类和著录基础上开发统一的编目和分类标准；确保根据国家书目使国内外用户拥有对图书馆印刷出版信息的可获得性；通过研讨班等途径介绍国内外图书加工标准并与非洲和世界类似组织进行合作；在国家书目中建立著者、主题和标目的权威文档；实施在版编目；注册尼日利亚连续出版物并根据国际标准配发ISSN和ISBN号码；继续保持联合编目；提供全国性索引和文摘服务；开发地区性机读目录网络和全国性书目数据库控制服务；制订年度预算和估算并对自己的活动、功能以及成就定期提出报告。在此之前的1950－1970年,尼日利亚出版物的书目由伊巴丹大学图书馆生产。尼日利亚国家图书馆是国家信息和文献中心；又是统计资料与多媒体中心；国家馆编辑和出版尼日利亚国家书目，书目覆盖尼日利亚全部出版物以及尼日利亚人在国外的和有关尼日利亚的出版物；国家馆在世界范围内管理尼日利亚该领域的知识输出；并且是尼日利亚ISBN办事处和ISSN中心；国家馆负责开展馆际互借，为国际图联、国际文献联合会、国家图书馆馆长协会、国际大都市图书馆协会、英国图书馆协会等机构成员。