以外，还进军事学校学习军事。几年后，聂荣臻作为一名能文能武的军事人才回到了国内，投入到革命洪流中。
（三）为了创建自己的军队
1925年夏天，聂荣臻回到国内，被派到黄埔军校，担任政治部秘书和政治教官。他为培养革命军事人才做了许多工作。后来，他又参加了北伐战争，到湖北担任中共省军委书记。不久，蒋介石发动了四一二政变，屠杀共产党人和工农群众，聂荣臻坚决主张进行反击，建立自己的武装。
七月的一天，周恩来召集军委工作人员，传达了中央决定在南昌发动起义的事，聂荣臻听了十分兴奋。
“什么时候动手？”他问。
“先做好准备，到时候听命令。”周恩来说，“我作为前委书记，指定聂荣臻担任前敌军委书记。你们的任务是到九江去通知党内的同志做起义的准备！”
“我完全拥护这个决定，一定完成任务！”
聂荣臻立即出发到了九江，找到了叶挺率领的二十四师。为了把中央决定传达下去，他冒着酷暑，汗流浃背地走到各部队。很快，这支队伍向南昌挺进了，聂荣臻又从九江赶到马回岭，到二十五师去做动员工作。正在这时候，南昌起义爆发了，聂荣臻决定马上带领已经动员出来的一部分队伍赶往南昌，刚上了火车，忽然从九江方向开来了一列煤车，原来是敌军首领张发奎来了。张发奎见部队正在行动，就站在火车门口喊：
“你们要干什么？赶快停止行动！”
聂荣臻当机立断，对一个姓李的排长说：
“让张发奎的司机开车，不开就开枪警告。”
那司机果然不敢开车，李排长就朝天放起枪来，张发奎先吓坏了，跳下火车就跑，把卫队和手枪、望远镜都丢下了。
“我们赶快走！”聂荣臻下命令。
参加起义的部队冲破了阻力，及时赶到了南昌，成为革命军队的一部分。后来，聂荣臻还参加了广州起义。他为建立人民的武装立下了大功。
（四）红军名将
从1928年到1931年，聂荣臻先后到香港、天津、上海等地坚持党的地下工作，历尽了艰难和危险。后来，他被派到了中央革命根据地，担任工农红军总政治部副主任，不久又到一军团担任政委，从此开始了长期的军事生涯。他那沉稳和深谋远虑的作风，给人留下了深刻的印象。
在第四次反“围剿”斗争中，聂荣臻和军团长林彪一起指挥红军战士们，打了不少胜仗。有一次，他们在黄陂打一场伏击战。不巧，出发那天，天降连阴雨，一片雨雾，部队只好冒雨前进。到了夜晚，更是伸手不见五指。聂荣臻对大家说：
“我们不能减慢速度，必须加速前进！”
“天黑又下雨，地上无路，困难很大呀！”有人说。
“一定要克服困难，按时到达目的地！”聂荣臻果断地说。
这样，战士们脚踩泥水，浑身湿透，迅速占领了伏击区。天亮以后，一大队敌军气势汹汹地进入了包围圈，林彪说：
“下命令，打吧！”
“再等等，沉住了气。”聂荣臻说，“等他们的军械粮草都进来了再打，一起收下！”
果然，敌人的五个团和辎重部队都进入了包围圈。聂荣臻才下令开火。这一仗，打得敌人晕头转向，狼狈逃窜。聂荣臻看到一队敌军正拚命逃向山谷口，就派一个团前去阻击，然后，他大喊一声：
“特务连，随我来！”
说着，他亲自带人冲下山去。参谋长见了，急得大喊：
“聂政委，你不能来，太危险啦！”
聂荣臻哪里顾得上这些，他被激烈的战斗场面吸引，带人就冲上了战场。这场战斗，打了三个小时，歼灭了大批敌人，还活捉了两个师长。
（五）原则上决不让步
聂荣臻为人厚道谦让，从不争名争利，但是原则问题上，他立场坚定，态度鲜明。他和林彪的关系，就说明了这一点。
从土地革命到抗日战争初期，聂荣臻和林彪几次合作，共同指挥一支部队，打了许多胜仗，像抗战初期的平型关大捷，就是他俩共同指挥的。林彪这个人有些打仗的才能，但是个人主义严重。聂荣臻对他的态度是：非原则问题，不多争论；原则问题不让步。
比如在长征途中，遵义会议开过以后，毛泽东成为领袖，率领红军灵活机动地和敌人周旋，虽然多走了一些路，却甩掉了敌人，取得了主动。林彪却不满意。对聂荣臻说：
“我们现在尽走弓背路，应该走弓弦才行。毛泽东这么做会把队伍拖垮。”
聂荣臻说：
“我不同意你的看法。我们好比在敌人的口袋里，如果不声东击西，高度机动，如何出得来？”
林彪不听，突然给彭德怀打电话，鼓动说：
“现在的领导不成，你出来指挥吧！你下命令，我们跟你走。”
彭德怀拒绝了。聂荣臻在一旁严肃地批评林彪：