赵秉均青年时投入左宗棠部，曾任新乐县典史，天津北大仓史，献县知县，直隶保甲局总办。后经袁世凯保奏，先后任保定巡警局总办，巡警部右侍郎。袁世凯篡夺民国政权后，委任赵秉均为内务总长，内阁总理。赵秉均从此成为袁世凯的得力干将。

1913年，在孙中山的支持下，宋教仁被选为国民党参议员，赵秉均看到宋教仁有夺走自己权力的危险，杀害宋教仁。3月20日，宋教仁在上海车站准备登车北上时，遭歹徒枪击，身中三弹，抢救无效死亡。事情败露后，赵秉均虽几经逃脱，但国人惩办凶手的呼声强烈，袁世凯见事情难以掩盖，便派人用电刀将凶手应桂馨杀死。八天后又将赵秉均毒死。

赵秉均死时，心中明知是袁世凯在杀人灭口，但怕连累家人，不敢声张，只遗嘱家人：“葬身陵麓，近先帝。”直到这时，赵秉均才明白，迫宣统退位，为袁世凯尽忠卖命是多大的错误。但历史不能重写，赵秉均永远是清廷的罪人。

赵秉均死后，他的家人把他埋葬在梁格庄兴隆山南麓，将兴隆寺搬迁，寺庙外作为他的家祠，现仍有遗址。