谯城区档案馆始建于1958年10月9日，是在原亳县县委、县政府两个档案室的基础上建立的。原馆址设在县委大院东南角一个小四合院内，有古老式砖瓦结构房屋十二间。1984年4月9日迁入与原亳县县委办公楼连体的新档案馆，即现在的谯城区档案馆。档案馆建筑面积960平方米，共有大小库房15个，二楼为办公区，设有单独的大门和专用楼梯间。1992年档案馆达到档案管理省二级先进标准。1986年6月随县改市，改为亳州市档案馆。2000年6月随市改区，改为谯城区档案馆。

建馆之初，馆藏量很少。据1960年统计，仅有文书档案5596卷，后经数次集中接收，目前，馆藏档案已达105个全宗，47603卷、13062件，照片3231张，图书资料7310册，大大丰富了馆藏，积累了档案资料。