家市。
罗荣桓在这里第一次见到了慕名已久的毛泽东，并且还聆听了毛泽东的演讲。
从此，罗荣桓开始了跟随毛泽东南征北战的革命生涯。
三湾改编，罗荣桓留了下来，他亲眼见到这支将垮的部队在毛泽东的领导下重新振作了起来，他敬佩毛泽东给旧式军队注入了新的政治灵魂，他看到了希望。
水口建党，罗荣桓作为党代表参加了毛泽东亲自主持的全团第一批新党员的入党仪式。之后，他按照“支部建在连上”的要求，积极响应毛泽东关于在战士中培养发展新党员的号召，很快在特务连发展了8名新党员，并在部队行军到遂川大汾时，主持了入党仪式。毛泽东不仅出席了这次入党仪式，而且还亲自领着新党员宣誓。
三湾改编和“支部建在连上”的活动，为创建新型的人民军队奠定了基础，对此，后来一直从事我军政治工作的罗荣桓深解其意。1956年，已经担任了中央军委总政治部主任的罗荣桓曾如是评说：党的支部建在连上，小组深入班排，现在看起来没有什么，但是从总结历史经验来看，意义是伟大的。大革命时期的国民革命军中，也有些党代表是共产党人，有的部队也有我们党的组织，但并没有把党的基层组织深入到连队去。陈独秀不重视军事工作，甚至反对军事工作，放弃党对军队的领导，致使后来党代表被赶出来了，主要原因就是没有建立党的基础……毛主席提出支部建在连上，小组设在班排，与群众直接联系，这对于加强党对军队的领导起了决定的作用。
支部建在连上，是加强党对军队领导的重要措施，而能否真正发挥支部的政治领导核心作用，关键又在于党代表。毛泽东在《井冈山的斗争》一文中指出：“事实证明：哪一个连的党代表较好，哪一个连就较健全，而连长在政治上不易有这样大的作用。”
井冈山斗争时期，罗荣桓正是一个在政治上发挥了积极作用的优秀党代表。
1927年11月，罗荣桓调任第三营九连党代表。
个子高高，戴着一副眼镜，话语不多的罗荣桓，看起来有点威严，九连一些战士乍一接触，还真有点害怕。几个爱给人起绰号的调皮战士，背地里将罗荣桓叫作“大脑壳”。
连长闻知后非常恼火，将那几个爱起绰号的战士叫来一顿训斥。
罗荣桓却并不在意，他让连长不要批评那几个战士。他说，虽然他并非赞成起绰号，可是也不觉得叫个绰号就会影响干部的尊严或威信。在罗荣桓看来，作为党代表，做好工作当然要有威信，可要让人服气，关键又在发挥自己的模范作用和先锋作用，这是党代表必须具备的基本条件。如果没有这一条，也就建立不起威信。
罗荣桓以无声的行动在给战士们作着榜样：打仗冲锋时，他和连长肩并肩站在队伍的最前头，退却时又在最后面负责掩护；行军时，他的肩头经常扛着几支病号或掉队战士的枪，宿营时，他又坚持查铺，逐个将战士的夹被盖好；有战士病了，他要一天几趟嘘寒问暖，还吩咐做病号饭，而他自己病了，却常常是不吭不声，咬牙坚持。
罗荣桓以自己的模范行动赢得了战士们的信任，不仅绰号没人再叫了，而且大家都觉得他脾气极好，一点架子也没有，都愿意跟他接触。
罗荣桓在九连树立起了党代表的威信，九连成为了坚强的连队。
1928年3月，工农革命军在中村整训，罗荣桓被调到八连，还是任党代表。他努力工作，不久便使八连的面貌有了明显的变化。
5月，秋收起义部队和南昌起义部队会合后成立了红四军，罗荣桓被提拔为红三十一团第三营党代表。
“八月失败”，三营经受了严峻的考验。毛泽东率三营赴湘南迎还红军大队，行程数百里，打了十几仗，全营没有一个开小差的，真可谓是一支拖不垮、打不烂的红色铁军。
这之后，三营一直作为红军主力，转战在井冈山根据地，无论环境多么险恶，无论条件多么艰苦，三营不仅绝少开小差的，而且难能可贵地保持了旺盛的战斗情绪。
为了这一切，罗荣桓付出了极大的心血。
毛泽东在《井冈山的斗争》中写道：“红军的物质生活如此菲薄，战斗如此频繁，仍能维持不散，除党的作用外，就是实行军队内的民主主义。”
在三营，罗荣桓为肃清封建残余，倡导民主主义，做了大量工作。
打骂士兵，是旧军队的恶习。红军中一些人仍然受到这种恶习的影响，认为“三句话不如一个巴掌”，“马鞭子下面出好兵”，因而打骂士兵的事情时有发生。
初冬的一天，傍晚突然刮起了凛冽的西北风，气温急剧下降。九连四班的战士放哨回来，因无火烤，冻得无法入睡。一位战士不顾班长黄永胜的阻止，从老表院里抱了一捆柴，点燃了一个火堆。
黄永胜命令战士把火熄灭，把柴送回去。
那位战士没有理会，还在继续往火堆里加柴。
黄永胜一把夺过战士手中的木柴，扔在地上，