1938年出生于京都。商人家庭出身。京都大学经济学部毕业后，进入大藏省工作。1983年初次当选众议院议员，至今连续8次当选。曾任已故大藏大臣渡边美智雄的秘书官、劳动大臣、国家公安委员会委员长兼防灾担当大臣，2007年9月24日被任命为自民党干事长。属自民党伊吹派领袖。

伊吹文明政治立场保守，有“保守知识分子”之称。安倍参选自民党总裁时，他参与起草了有关修改宪法的政策建议，得到了安倍肯定。就任文部大臣后，伊吹文明推进安倍强调的教育改革，主张在小学教育中应重视日语和基本素质的教育，反对将英语设为小学必修科目。