多人，弹药告绝，第二十四师下级干部伤亡殆尽。9月30日，起义军向揭阳退却。驻守潮、汕的第二十军第三师，在强敌进攻下，亦于当日失守潮、汕，10月1日晚退守海陆丰。10月2日至3日，留守三河坝的第九军和第十一军第二十五师，在朱德、周士第率领下，与敌钱大钧三个师激战两昼夜，因粮尽弹绝，于10月4日撤出三河坝地区。
在形势急趋险恶的情况下，中央代表张太雷于9月30日到达汕头。他向前委传达了党的“八七”会议精神和中央关于抛弃国民党旗帜、建立苏维埃政权的决定，提出起义部队应撤出潮、汕，转移海陆丰。10月3日，起义部队主力从汤坑撤退到普宁的流沙镇。前委在流沙召开了有前委、革命委员会成员和其他军政负责干部会议。会议决定武装人员突围去海陆丰，非武装人员由当地农会护送，分批从海上撤退。当部队行进到乌石地区时，遭到敌人伏击，大部分被打散，一部分（1200余人）突围转移到海陆丰。起义军主力失散后，周恩来、叶挺、聂荣臻等领导人在汕头地下党的护送下，转赴香港。贺龙、李立三、周逸群、郭沫若等领导人也转移到香港、上海，踏上新的征途。
在此危难关头，朱德在饶平的茂芝全德学校召集周士第、李硕勋、陈毅、王尔琢、周邦采等各路负责人开会，紧急商议对策。朱德指出：反动派在东江地区陈兵数万，随时都有向我扑来的可能。现在前方主力已完全失利，原来的希望成了泡影。在这群龙无首的局面中，起义军只有迅速脱离险境，保存有生力量，另寻出路，才能图谋新的发展。朱德毅然向大家表示说：我是共产党员，有责任把南昌起义的种子保留下来，把这支队伍带出去，和大家团结奋斗，将革命进行到底。会后，朱德率部向闽、赣边境转移。
南昌起义军余部进入赣南山区后，孤立无援，情况越来越严重。部队虽然摆脱了大股敌人的追踪，但仍不时遭到地主武装、反动民团的袭扰。此外，天气逐渐寒冷，官兵们却还是穿着起义时发的单衣，经常性的森林露宿，疾病陡发，又没有医药治疗，伤、病人员日益增多。寒冷、饥饿、疾病，严重地威胁着每一个人。人们思虑的是，在革命处于低潮之际，革命还有没有前途？部队一无供给，二无援兵，出路在哪里？一些经不起考验的人，有的不辞而别，有的叛变投敌，还有整班、整排、整连自行离队，自寻出路去了。部队进入安远天心圩时，竟从2000余人锐减至1000余人。部队到了非整顿不可的时候了，于是有了“赣南三整”的发生。
1.天心圩整顿。其时，第二十五师领导人为寻求与党的组织取得联系先后离开了部队。千斤重担压在朱德肩上。在部队进驻天心圩的晚上，朱德召集军人大会，讲理想，讲前途。他首先分析了形势，卓有远见地指出：“别看敌人跟着我们后面追，但是这些军阀之间是有矛盾的，蒋桂战争是一定要爆发的，蒋冯战争也是一定要爆发的。军阀不争地盘是不可能的，要争地盘就要打仗。现在新军阀也不能不打，他们一打，我们就可以发展了。”他还提出：“愿意继续革命的跟我走，不愿意革命的可以回家，不勉强。”他动员大家：“无论如何不要走，我是不走的。”。他回答了大家心头郁结的问题，说：“一九二七年的中国革命，等于一九零五年的俄国革命。俄国在一九零五年革命失败后，是黑暗的，但黑暗是暂时的，到一九一七年，革命终于成功了。中国革命现在失败了，现在也是黑暗的，但是黑暗同样遮不住光明，只要能保持实力，革命就有办法，革命就能成功。”“一九零五的革命失败了，留下来的‘渣渣’就是十月革命的骨干。我们这次就等于俄国的一九零五年，我们只要留得一点人，在将来的革命中就要起很大的作用。过去那么搞法不行，我们现在要‘伸伸展展’来搞一下。”
陈毅也在危难之中挺身而出，积极协助朱德稳住部队。他当时是第七十三团的指导员，是师团级政工干部唯一留下来的。陈毅诚挚地开导大家说：“南昌起义是失败了，南昌起义的失败不等于中国革命的失败。中国革命还是要成功的。只有经过失败考验的英雄，才是真正的英雄。我们要做失败时的英雄。”
朱德、陈毅的讲话，铿锵有力，掷地有声，展示了革命的前景，极大地坚定了官兵们的信心，对稳定部队起了重要作用。
2.大余整编。10月底，部队到达大余。这时，朱德在天心圩的预言得到了证实：宁汉战争打起来了。粤、桂、湘系的大小军阀都卷入了这场混战，顾不上追击起义军了。朱德、陈毅即利用这一时机，在大庾对部队进行了整编。首先，整顿党团组织，成立党支部，并且发展了一些新党员，将党团员分配到各连队中去，使军队置于党的领导之下。同时，把已经成为空架子的军、师建制撤销，将所有的人合编为一个纵队，下辖三个支队，使部队充实、精干多了。从此，部队真正稳定下来，虽然只有七八百人，但都是经过考验、大浪淘沙保留下来的精英。
3.上堡整训。大余整编后，11月上旬，部队转战来到崇义山区的上堡。经过三个月的艰苦转战，这时才初步