1930年11月，中共江南省委决定撤销徐海蚌特委，在蚌埠设立长淮特委，指导津浦铁路沿线的凤阳、定远、盱眙、泗县、五河、灵璧、怀远等县党的工作。1931年3月前管辖地域还达到凤台、寿县和阜阳县。

1931年1月，中央撤销江南省委，重新建立江苏省委，长淮特委隶属江苏省委，陈履真任特委书记，朱务平、许立民为常委，分管组织和工运。1931年6月，陈履真调上海工作，朱务平接任书记。长淮特委成立后的中心任务是努力发展壮大组织，开展农运、工运、兵运、学运和妇运，支援苏区，反对日本帝国主义侵略中国。

在白色恐怖的笼罩下，特委采用隐蔽的方式扩大党的队伍，如在码头工人中开办弄枪使棒的拳术团，在铁路工程处兴办业余读书班，在黄包车工人中组织互济会，在国民党军队士兵和警察中以兄弟会的形式开展公开的活动，并从中发展了60名党员。特委还设立了铁路工作委员会，指导铁路工人运动，成立铁路赤色工会小组，油印《斗争》刊物散发。这期间，特委还领导了蚌埠宝兴面粉厂工人的罢工斗争，蚌埠黄包车工人反对增加牌照税及租金的斗争，临淮关火柴公司工人要求补发工资和当众焚烧地主“流通券”的斗争，以及警察索薪罢岗的斗争。为加强对各县的领导，特委对凤阳县委进行了3次改组，并派人到泗县、五河、灵璧、凤台、定远、怀远各县指导工作。到1932年秋，党员数达到580人。特委还创办《红旗报》作为机关理论刊物，用以指导所属各县党的工作。

1932年，长淮特委连续遭受敌人三次破坏，特别是第三次破坏，特委书记朱务平等被捕，导致特委活动终止。

1932年3月，曾在蚌埠工作的南京市委军委书记路大奎被捕叛变，带敌特到蚌埠，致使特委组织部长许立民和妇女部长耿建华被捕。6月，由路大奎发展的党员张彩友在南京叛变，又一次带领敌特到蚌埠搜捕，造成特委宣传部长刘俊三、团特委书记陈育智等多人被捕。8月26日，特委军委书记刘平（刘小平）到南京投敌叛变，将他所掌握的长淮特委机关和176名共产党员名册和他们的住址密告南京国民党中央党部。30日，刘平带领国民党宪兵司令部军警在蚌埠、临淮关、凤阳、怀远大肆搜捕共产党人。特委书记朱务平、凤阳县委书记赵连轩等80多人被捕。朱务平、赵连轩等20多位优秀共产党员被杀害在南京雨花台。

江苏省委巡视员于1932年10月报告省委，计划在蚌埠重建长淮临时特委，恢复长淮地区党的组织，终因敌人继续大肆搜捕，此议未能付诸实施。

中共长淮特委在白色恐怖下坚持斗争的两年中，建立和发展党、团及群众组织，开展了许多革命活动，打击了敌人的反动势力，为革命作出了重要贡献。