马鞍山市档案局成立于1979年12月，与1958年12月成立的马鞍山市档案馆合署办公，为市委市政府直属参照公务员法管理的事业单位；现有编制24名，内设科室6个。

市档案馆现有馆藏全宗158个，档案资料22.6万卷（册），居全省前列。馆藏档案主要包括建市以来党政群机关、部分重点企事业单位的文书档案，全市重大活动档案，国有破产和改制企业档案，婚姻档案以及部分工商、土地、交通、工业普查、人口普查等专业档案。最早年代形成的档案为1944年至1947年资源委员会华中矿务局档案。另有照片档案6700张，声像档案90盘，实物档案291件。此外，藏有江泽民、吴邦国等党和国家领导人题词，林散之、于右任、马英九等名人字画。从1995年开始，逐步将馆藏档案目录输入电子计算机档案管理系统，目前已基本实现馆藏档案目录计算机检索。

经市委市政府批准，2007年7月，市公益项目管理中心开始实施市档案馆改扩建工程，至2009年6月完工。扩建后的市档案馆，总建筑面积达5600平方米，同步建成了政府公开信息查阅场所和爱国主义教育基地展览场所，购置安装了档案密集架、防火防盗监控设施和去湿机、空调、计算机等现代化设备，档案安全保管和利用条件得到较大改善。

2008年8月，市档案馆晋升为国家二级综合档案馆。