张丕绪是山西省平遥县人，1935年参加革命工作并加入中国共产党。1937年后，先后任山西青年抗敌决死队班长、决死第一总队三大队九中队政治工作员、决死一纵队38团组织干事、党总支书记、太岳四军分区17团政治处副主任、晋察鲁豫第四纵队11旅17团政委、第四纵队13旅政治部主任、第二野战军第四兵团13军38师政委兼云南省蒙自地委书记、13军政治部主任等职。1958年调第二机械工业部工作，历任国营504厂党委书记、814厂党委书记、二机部政治部主任、副部长、党组成员、纪检组组长，1983年离职休养。

张丕绪1955年被授予大校军衔，曾荣获八一奖章、二级独立自由勋章和二级解放勋章和纪念中国人民抗日战争胜利60周年纪念章。

原二机部党组成员、副部长张丕绪同志，因病医治无效，于2010年2月27日在北京逝世，享年92岁。