郭霸，庐江人也。天授二年，自宋州宁陵丞应革命举，拜左台监察御史。如意元年，除左台殿中侍御史。长寿二年，右台侍御史。初举集，召见，于则天前自陈忠鲠云：“往年征徐敬业，臣愿抽其筋，食其肉，饮其血，绝其髓。”则天悦，故拜焉，时人号为“四其御史”。

时大夫魏元忠卧疾，诸御史尽往省之，霸独居后。比见元忠，忧惧，请示元忠便液，以验疾之轻重。元忠惊悚，霸悦曰：“大夫粪味甘，或不瘳。今味苦，当即愈矣。”元忠刚直，殊恶之，以其事露朝士。尝推芳州刺史李思征，搒捶考禁，不胜而死。圣历中，屡见思征，甚恶之。尝因退朝遽归，命家人曰：“速请僧转经设斋。”须臾见思征从数十骑上其廷，曰：“汝枉陷我，我今取汝。”霸周章惶怖，援刀自刳其腹，斯须蛆烂矣。是日，闾里亦见兵马数十骑驻于门，少顷不复见矣。时洛阳桥坏，行李弊之，至是功毕。则天尝问群臣：“比在外有何好事？”舍人张元一素滑稽，对曰：“百姓喜洛桥成，幸郭霸死，此即好事。”