河南省公安厅第二工程公安局的前身是中国人民解放军铁道兵时期的保卫组织。

1984年兵改工后，在部队保卫组织的基础上组建了“铁道部第十五工程局公安处”。

2008年12月，河南省编委批准“铁道部第十五工程局公安处”整建制移交河南省公安厅管理，成立“河南省公安厅第二工程公安局”。

河南省公安厅第二工程公安局主要职责是负责中国铁建驻豫施工企业的安全保卫工作。

首任局长是由河南省公安厅选派的郭渊。