青岛市档案馆于1959年开始筹建，1961年7月正式成立。1963年青岛市档案馆与新成立的青岛市档案管理局迁入青岛市湖南路37号（后改为39号）合署办公。 “文革”期间，青岛市档案馆与青岛市档案局被撤销，1979年12月得以恢复。恢复后的青岛市档案馆仍与青岛市档案局合署办公，青岛市档案局列入政府序列，受市委、市政府双重领导，青岛市档案馆为市委、市政府直属的科学文化事业单位。 1993年，根据青岛市委、市政府的部署，青岛市档案馆（局）迁离原址，在洛阳路等地临时办公。1997年8月6日，位于延吉路的新馆开始启用，新馆总面积13800余平方米，是一座造型优美、设施先进的现代化档案馆，解决了长期制约青岛市档案馆工作全面发展的重要障碍，标志着青岛市档案馆基础建设迈上了新台阶。2008年7月29日，建筑面积6000余平方米的青岛市档案馆展览中心落成并对外开放，青岛市档案馆社会服务功能进一步拓展。

馆址：青岛市延吉路148号。邮政编码：266034。档案馆代码：430720。

1996年2月，根据《青岛市市级机构改革实施方案》，经青岛市机构编制委员会审核批准，设置青岛市档案馆，同时挂青岛市档案局的牌子，履行档案保管、利用和档案事业行政管理两种职能，为市委办公厅领导的市直事业单位。