阜阳市档案馆，位于清河中路市委院内，邮政编码236000，档案馆代码434181。

阜阳市档案馆筹建于1958年10月，由原地委、专署两个档案室合并而成。1959年2月，改名为阜阳专区档案资料馆。同年12月，成立专署档案管理科，与专区档案馆合署办公，一个机构、两块牌子，直属地委、专署双重领导。1968年8月，成立了阜阳专区档案馆革命领导小组。 1973年12月，恢复了专区革命委员会办事组档案馆1979年12月，正式成立阜阳地区行政公署档案局。

1996年1月，阜阳撤地建市，原阜阳行署档案局(馆)改为阜阳市档案局(馆)，原阜阳市档案局(馆)并人现在的市档案局，内设办公室、业务指导科、管理一科、管理二科及编研科。

阜阳市档案馆现有去湿机、微机、复印机、吸尘器、空调等，每个楼层均装有报警器及消防器材。

阜阳市档案馆积极做好档案材料的接收和征集工作，不断丰富馆藏，完善结构，增加门类。现存有文书、纪检监察、土地、艺术、声像、科技、个人等多种门类档案，排放长度为1251米。