常持琇祖籍山东省堂邑县（今山东省聊城市堂邑镇），历代以农为生，家境贫寒，其父为常广云，母为常于氏，为家中长子，下有二个弟弟、二个妹妹。后来家中耗尽财力支持常持琇赴府城就读初中，后又考取山东省立第三师范，于1937年毕业，随即赴武汉，投考黄埔军校十四期炮科，于毕业时留校任助教，担任带领十五期学弟为区队长。1941年始离校调西北胡宗南麾下之第一军七十八师任上尉连长，少校作战参谋。1944年升任营长，在职期参与中外有名之中原会战，1945年抗日战争结束，后赴重庆考入陆军大学二十一期正规班，在学期间结识周丽华，后于南京成婚，育有一子二女。1948年将军陆大结业即入兵学研究院十六期。1949年随国民政府转进台湾，此间，常持琇得二十一兵团司令刘寿公任命兵团作战处襄助张国英将军任中校科长，1951年以原阶升任陆军五十军作战处长，1953年调陆军二七师七十九团团长职务，创中校任团长之先例，1955年奉调国防大学联战系进修，毕业后留校任教官晋升上校，升级后奉调陆军第十军上校参谋长。

1958年常氏随军移防金门兼金防部副参谋长，此时八二三炮战发生，参谋长中伤送医，其职务由将军代襄助司令官胡琏上将。常氏于炮战中腿部负伤，因战功携伤任命升调至六十九师师长，该师系在抗战时期，以“十万青年十万军”成军的二0七师为基础而改变的陆军精锐部队，常持琇接任时为上校官阶，其副师长为少将官阶，亦创下军中之首例，常持琇接任师长后仍驻守金门，赓续执行藏于坑道下之工事政策。

1959年率部队返台整训后担任护卫首都市之责，1961年卸任入实践学社石牌联战班二期受教，后由总统蒋介石选拔担任国光作业室副主任襄助草拟对中国大陆的反攻计划，后因国际环境牵制，国内政情变化而停止。1963年晋升少将，于1966年调任第一士官学校校长，1969年调升国防部计划次长室（联五）中将执行官。

至1976年应郑为元上将之命调任中部地区警备司令，后因高雄市升格为直辖市，蒋经国命郑为元遴选资深中将调高雄市座镇南部，常持琇获选改任南部地区警备司令，并将原在台南市驻地移至高雄就职，掌理南部六县市。在此期间适逢美丽岛事件，以“打不还手，骂不还口”为口号处理，创下治安史上首宗首长未因事件而下台之案例；且当时尚未有镇暴警察之编制，常持琇以未持枪之宪兵担任镇暴之责，减少了群众受伤人数，被许多媒体与党外人士誉为“当代最具有民主素养之将军”，并因而擢升台湾军管区副司令乙职。

限龄退休后转任台中“欣中天然气瓦斯公司总经理”，在职期间建议董事长以余资购置土地，并将公司作业电脑化，后亦受警察大学礼聘担任讲座教授。晚年罹患疾病，于2010年3月2日去世。