部队中弥漫着一股消沉的情绪，许多知识分子和军官出身的人，看到失败似乎已成定局，纷纷不告而别。有些小资产阶级出身的共产党员，也在这时背弃了革命，走向叛变或者消极的道路。这真是一场严重的考验。”“部队中的逃亡现象清楚地说明了：武装必须掌握在坚定的革命者手里；另方面，还必须有一个坚强的组织作为核心，并通过它和广大的战士群众发生密切的联系，这样才能巩固。”赖毅：《毛委员在连队建党》。
张宗逊回忆说：“秋收起义后，部队遭到几次挫折，战斗减员很大，加上长途行军转移，病号很多，特别是当时政治思想工作薄弱，军心涣散。”张宗逊：《我在井冈山斗争中的经历》。
“毛泽东同志恰恰是在这个最紧要关头，通过深入、细致的思想工作，通过研究部队的政治和思想情况，从而察觉了问题的症结，采取了坚定的措施。”赖毅：《毛委员在连队建党》。
这就是三湾改编的历史背景。加之部队已进入山区，摆脱了敌人，原来追剿部队的江西敌人到萍乡后未南下，湖南的敌人已陷入“李唐战争”，客观上给部队提供了休整的时机。于是，在部队到达三湾的当天晚上，毛泽东即在三湾的“泰和祥”杂货铺，主持召开了中共前委扩大会议，决定对部队进行改编。
三湾改编的内容主要有以下三方面：
1.在组织上进行改编，将部队从一个师缩编为一个团。
秋收起义后的工农革命军由于严重减员，名为一个师的建制，实际不到千人。因此，三湾改编时“首先是整顿组织，一个师缩编为一个团，改称工农革命军第一师第一团，实际上只有两个营七个连。”改编时，根据自愿的原则，愿留的则留，不愿留的发给三至五元的路费。同时，根据干部多余的状况，编了一个军官队、一个卫生队、一个辎重队。改编后，共700人左右。人员虽少了，队伍却精干多了，都是大浪淘沙后的精英分子。
三湾改编后的工农革命军第一军第一师第一团，最高领导机关仍是秋收起义时中共湖南省委任命的前敌委员会。其组织系统如下：
中共前敌委员会书记毛泽东
第一团团长：陈皓党代表：何挺颖
副团长：徐庶参谋长：韩庄剑
第一营营长：黄子吉党代表：宛希先
第一连连长：员一民党代表：熊寿祺
第二连连长：刘康党代表：何成匈
第三连连长：×××党代表：×××
第三营营长：张子清党代表：李运启
第七连连长：陈子风党代表：孔繁淑
第八连连长：×××党代表：杨岳彬
第九连连长：曾正平党代表：罗荣桓
特务连连长：曾士峨党代表：朱建胜
军官队队长：吕赤党代表：蔡钟
卫生队队长：曹嵘党代表：何长工
辎重队队长：范树德党代表：×××
2.在部队中建立党的各级组织，确定“支部建在连上”的制度。
早在国共合作的第一次大革命时期时，我党就在自己掌握的军队中建立了党的组织。但是，无论南昌起义军还是秋收起义军，党的组织都是设在团一级，即团为支部单位，而在军队的基层组织连队一级却没有党的组织。这样，就势必削弱基层党支部的战斗堡垒作用，抓不住士兵。三湾改编时，毛泽东总结了这个教训，在部队各级都设立了党的组织。班有小组，连有支部，营团有党委，连以上设立党代表，担任党的支部书记，专门做党的工作，做士兵的政治思想工作，指导士兵开展群众工作。从而，确定了党对军队的绝对领导。
“支部建在连上”，是毛泽东对无产阶级建军原则的一个重要创造。后来，毛泽东曾总结指出：“红军所以艰难奋战而不溃散，‘支部建在连上’是一个重要原因。”同时，后来的实践也表明，“哪一个连党代表较好，哪一个连就较健全些”，“党代表制度，经验证明不能废除。”
（三）在军队内部实行民主制度，连以上设立士兵委员会。
反动统治阶级的军队，没有民主制度，存在着尖锐的阶级矛盾，官兵对立是普遍的现象。工农革命军的主体是从国民党军队过来的，自然也带来了一些旧军队不良作风的残余。为了废除旧军队中的旧制度及其影响，三湾改编时建立了新型的官兵关系。正如罗荣桓回忆所言：“为了扫除军队中的一切不良制度和习气，毛泽东同志果断地采取了许多革命的措施。例如，士兵委员会就是这时候产生的。为了反对旧军队的一套带兵方法，这就需要进行民主改革。士兵委员会就是实现民主的一个组织形式。那时，士兵委员会有很大的权力，军官要受士兵委员会的监督。做错了事，要受士兵委员会的批评，甚至制裁。表面看来，这样似乎是会鼓励极端民主化和平均主义的思想，但当时的主要问题是必须坚决反掉旧军队的一套带兵方法，奠定新型的官兵关系——阶级的团结。部队的实际情况是民主不够，而不是什么极端民主化和平均主