刘树芃，曾用名刘默声，1909年9月出生，湖南省醴陵市清安铺人，和国民党陆军上将刘建绪、国民党陆军少将刘埙浩同族。

刘树芃1917年进乡私塾读书，1922年举家迁往长沙后入修业小学，1924年考入岳云中学。1925年由刘埙浩介绍加入国民党，翌年秋转入湖南省立第一中学。1927年马日事变爆发后避乱返家。1929年初与李明灏胞妹李明淬结婚，进长沙广益中学补习。同年秋入长沙楚怡工业学校采矿冶金班学习，年底肄业。1930年秋在国民党湖南地方自治训练所统计班就读三个月，后因红军攻入长沙，班级解散。

1931年6月，刘树芃由李明灏介绍充任国民党军一四四团中尉军需，之后历任湖南航空处少尉办事员、中尉科员、南昌行营司书、八十三师中尉金柜军需、高射炮营上尉军需。