五年的国外求学生涯，使聂荣臻由一个忧国忧民的有志青年成长为具有一定政治、军事知识的职业革命家。大革命失败后，聂荣臻先后参加了八一南昌起义、广州起义。起义失败后，聂荣臻奉调到上海中央特科工作，主要任务是打入敌人内部，及时了解敌情，保卫党中央的安全，并负责镇压叛徒、特务。1931年秋，由于中央特科负责人顾顺章的叛变，聂荣臻无法继续在上海呆下去了，便奔赴江西中央苏区。
聂荣臻来到中央苏区，一开始在五军团工作了一段时间，不久后，即被任命为中国工农红军总政治部副主任，协助主任王稼祥的工作。1932年3月，又被任命为红一军团政委。知识渊博又十分忠诚党的事业的聂荣臻和军事才能十分突出的林彪，分别成了红一军团的主将，使得红一军团在保卫中央苏区的作战中，能征惯战，屡立奇功。
聂荣臻在红一军团政委的岗位上呆了近七年之久，他和林彪一道率领红一军团从江西转战到陕北，走了大半个中国。在这期间，他和林彪的合作基本上是和谐的，但也有意见不一致的时候。
第五次反“围剿”作战中，红军的军事顾问李德一改红军擅长的运动战和游击战，专打阵地战、堡垒战，要求红军在战略上采取“堡垒对堡垒”、在战术上采取“短促出击”的办法打退国民党军的第五次“围剿”。为了贯彻“左”倾冒险主义战略战术思想，李德专门来到一军团，给一军团的红军将领讲解他的短促出击战术。
李德在会上讲了半天，大多数的红军将领还是无法理解。李德短促出击的理论，源于德国的堡垒战术，主要用于阵地对抗战，不适应红军的实情。红军对敌斗争，既没有必要的攻坚武器，也缺乏足够的火力，对于优势敌人只能采取设伏、突袭等战术，如果与敌人面对面地较劲，红军的劣势是很明显的。李德以己之短击敌之长的战术，对红军的作战是有害的。广大红军将领从实际出发，对于李德的短促出击理论并不热心。只有善于搞投机的林彪特别积极，他不仅自己带头学，而且还动员大家学，为此他还专门写了一篇文章《论短促出击》，印发全军，供大家学习。林彪的这篇文章不仅仅是谈战术，实际也是一个政治上的表态。对于林彪的这种做法，聂荣臻是不赞成的，并为之担忧。结果在后来的几次战斗中，林彪采取李德短促出击的战法，连连受挫。
1933年12月25日，一军团奉命在江西永丰南丁毛山与敌两个税警团和第九十三师进行以堡垒对堡垒的堡垒战。
战斗一开始，敌军就用重炮轰击一军团简陋的堡垒，一军团好不容易建立起来的堡垒全被炸毁。而一军团攻击敌军堡垒时，因没有重武器，连连受挫。许多红军指战员感到十分憋气，满腹牢骚，“不知搞啥鬼呀！我们一夜不困觉做一堡垒，被人家一炮就打翻了，而人家的堡垒我们只有用牙齿去咬！我们没有重武器，却天天和敌人比堡垒。”作为一军团政委的聂荣臻和大家有着同样的感受，他始终站在战斗最激烈的一师阵地上，看到许多红军战士牺牲在敌人的堡垒面前，心情十分沉重。
长征路上的开路先锋聂荣臻与林彪搭档（2）
一军团在永丰战斗中受挫的事实也教育了林彪，使他认识到堡垒战和短促出击在实际作战中是行不通的。1934年2月10日，他同聂荣臻联名致电中革军委，建议红军采取运动战消灭敌人，但没有被博古、李德所接受。
9月，在温坊战斗中，聂荣臻和林彪断然放弃短促出击的战术，采用运动歼敌的作战方法，取得了战斗的胜利，歼敌4000余人，俘虏敌军2000余人。温坊战斗的胜利，更使聂荣臻怀念毛泽东，他多么希望红军能早日采取毛泽东诱敌深入、以运动战的形式歼灭敌军的作战思想！
温坊战斗只是一个局部的胜利，不能改变整个第五次反“围剿”战争失败的结局。10月，中革军委做出战略转移的决定。当时，聂荣臻和林彪正在福建前线指挥作战，中革军委立即召集他们率一军团撤回江西瑞金。
回到瑞金后，作为中革军委三人团之一的周恩来接见了他们，并向他们转达了中革军委决定实行战略转移的决定，要一军团秘密做好一切准备，担任全军的开路先锋。由于博古、李德害怕走漏消息，决定对中央红军西去的方向暂时保密。向来习惯于坚持原则的周恩来，在向两人传达任务时，没有向他们说明红军即将行军的方向。林彪、聂荣臻两人接受了任务后，感到莫名其妙，他们是第一次接受这样一个意图模糊不清的任务。就在这时，他们听说毛泽东从外地赶回瑞金，便赶到毛泽东的住处，准备向毛泽东问个究竟，毕竟毛泽东是一军团的老上级了。
处在孤独中的毛泽东没有想到会有人在这种时候来看他，见到他们两人，很高兴地问道：“你们为什么到这里来呀？”
林、聂回答：“我们回来接受新任务了。”
“什么任务？”
“要转移。”
毛泽东听林、聂说到转移，就问：“你们知道了？”
林、聂两人齐声答道：“我们已经接受了任务，就是不知道要去哪里。”
毛泽东没有吱声，他理解两人的心情，理解他们的想法。但是他没有一点发言权，因为他一直遭到博古、李德的排挤，博古、李德动不动就说毛泽东在红军队伍中搞宗派活动。在当时极其复杂的背景下，仅仅是苏维埃政府主席的毛泽东对于中革军委的行动，无权过问，更无权更改，对林、聂两人的询问，当然也无法做出明确的答复。
辞别了毛泽东后，林彪与聂荣臻回到驻地，开始部署部队的准备工作。
长征路上的开路先锋在九峰山，聂荣臻与林彪发生了争执
在九峰山，聂荣臻与林彪发生了长征路上的第一次争执
蒋介石为了阻止红军转移，在红军突围的路上连设了四道封锁线。红军自1934年10月20日至11月15日不到一个月的时间里，连过敌人两道封锁线，进入湘南。此时，担负着开路先锋任务的林彪、聂荣臻日感肩上的担子沉重。在过第三道封锁线时，两人发生了争执。
敌人的第三道封锁线设在粤汉铁路沿湘粤边湖南省内良田至宜章之间。这一带交通十分便利，敌军运兵很快。最初蒋介石不甚清楚红军突围西进的企图，还认为红军是向南突围。直到红军主力渡过了信丰河，冲破敌军第二道封锁线时，蒋介石才知道红军是要向西大转移。于是蒋介石立即赶回南昌行营，部署阻击红军的西进。红军通过第二道封锁线后，蒋介石急令粤军、赣军、湘军从三面赶至湖南省南部的宜章一带，阻击红军。
敌军从三面压迫过来！形势十分危急！
正值阴雨天气，大雨滂沱，道路泥泞，中央红军行进在粤北南岭的丛山峻岭之中，十分艰难。行进中的红军战士为了赶时间，常常连饭都无法吃上一口。饥饿、寒冷、疲劳时时缠绕着每一个红军战士。
敌军跟进很快，眼看就要追上了，中革军委命令红五军团稍停断后。后卫红五军团遂在延寿布下阻击阵地，与敌军激战数日，重创“追剿”敌军，为前卫部队强占有利地形、掩护主力红军冲过敌军的第三道封锁线赢得了宝贵的时间。
在蒋介石的催促下，粤军余汉谋部正乘坐火车沿粤汉线快速北进，有切断红军西进道路的危险。为了赶在敌军到达之前通过敌军的第三道封锁线，中革军委命令走在左前方的红一军团沿着九峰山脉向宜章一线占领要点，从左侧掩护红军主力西行。
而担任左路掩护的红一军团却在地形不明的大山里，由于没有地图可循，被迫在羊肠小道和狭长的深谷中摸索着行进。中革军委眼见从南面赶来的粤军就要封住前进的道路，急电一军团务必夺取粤汉铁路线上的制高点九峰山，阻止粤军北进，掩护红军主力前进。
接到中革军委十万火急的电报，红一军团的两个领导为是否抢占九峰山产生了严重的分歧。林彪认为目前敌人还没有到达乐昌，前进道路上还没有危险，一军团尽可拣平原走，迅速冲过乐昌，后面跟进的军委纵队也可抓紧时间急行军，在敌军到达之前冲过乐昌，一军团完全没有必要去为夺取九峰山而浪费时间。政委聂荣臻却认为，打仗不是单纯地拼拼杀杀，应是方方面面的综合，作为一个军事指挥员，不应当只考虑自己部队的利益，一军团离乐昌还有一段路程，粤军正在乘坐火车赶向乐昌，红军用两只脚无法跟敌人的车轮相比，就是当前敌人还没有到乐昌，但等红军用两只脚走到时，完全有可能和敌人碰上。一军团是先锋军，不能只管自己在平原上冲过乐昌就算完事，如果敌军占领了九峰山，就有可能把后面的部队截断。为此，聂荣臻坚决主张抢占九峰山，掩护大军的行进。
聂帅后来回忆道：“在这样危急的情势下，我和林彪之间，为了部署突破敌人第三道封锁线，发生了长征路上的第一次争吵。我平时总认为林彪不是不能打仗的人，有时他也能打。他善于组织大部队伏击和突然袭击。可是由于他政治上存在很大弱点——个人主义严重，对党不是很忠诚，有时就使他在军事指挥上产生了极端不负责任的行为。这次在突破敌人第三道封锁线时就表现得很明显。”“我认为这是个原则问题，对军委命令的执行是需负责任的。因此，我坚决主张按军委命令行事。当时我们争吵得很激烈。”
两位主将发生了分歧，并因此而争吵起来，作为参谋长的左权十分焦急。一向十分温和、谦逊的左权提了一个折中的建议：让二师师长陈光带一个连到乐昌附近侦察一下。
考虑十分全面的聂荣臻说道：“侦察也可以，不侦察也可以，你去侦察时，敌人可能还没有到，等你侦察回来时，敌人可能就到了。担任如此重大的掩护任务，我们可不能干这些没有把握的事。我同意派人侦察，但部队继续前进，一定要遵照军委的命令行事，一定要派部队控制九峰山。”
在聂荣臻的一再坚持下，林彪勉强同意聂荣臻的意见，派陈光前去侦察。不一会，陈光回来报告，在乐昌大道上已经看到敌军了，敌军正向北面开过来，如果再不占领九峰山，形势将十分不妙，不仅红军主力过不去，就是红一军团也无法通过。
情况十分危急，已呈骑虎之势的林彪还是不急于作出决定。他又亲自利用敌军的电话线，伪装成国民党正规军，与正在向乐昌行进的敌军民团团长进行了通话。林彪装着“中央军”的口气，“妈的娘的”将对方的民团团长骂了一通：“你们这些民团顶个屁用？还不快联络正规部队，以备阻击。”
对方民团团长回答道：“邓龙光（粤军）三个团已经占领乐昌，其中一个团的人正在向九峰山开进。”
林彪得知粤军已经派兵力向九峰山开进，才真正开始着急了。他丢下电话，对四团团长耿飙和政委杨成武命令道：“快！你们那个团，要不惜一切代价上九峰山，立即出发。”
敌情就是命令！耿、杨率军一鼓作气冲向九峰山。
时值天降暴雨，道路泥泞，正常行军都十分困难，何况强行军呢？
红四团的战士们几乎是连滚带爬地向前奔跑。当四团登上九峰山时，敌军也正从山的另一面向上爬，耿飚指挥战士一阵猛烈的扫射，把敌军打了下去。得知这一消息后，聂荣臻松了一口气，不露声色的林彪则在心里暗自庆幸：多亏耿、杨赶得及时。
四团在九峰山上坚守了一整天，就在这一天，后续主力部队通过了敌人的第三道封锁线。
长征路上的开路先锋聂荣臻救出了彭绍辉和萧华（1）
湘江边，聂荣臻从敌人的魔爪下救出了两员勇冠三军的战将：彭绍辉和萧华
从于都河经桃江、汝城到宜章，一军团与三军团作为红军的两支前锋，交替打击着敌人，连过蒋介石的三道封锁线，八万中央红军从中央苏区进至湘南，然后转奔湘西。
此时，红军前进的方向横着两条大江：一条潇水，一条湘江。潇水西岸是道县县城，也是这一地区第一大渡口。红军八万人马要过潇水，必须首先占领道县县城，中央军委将占领红军北上生命线道县县城的艰巨任务交给了最能打硬仗的红一军团。林彪、聂荣臻接受任务后，马上向二师师长陈光、政委刘亚楼交待任务，陈光与刘亚楼决定由四团担任主攻，五团迂回配合。
11月12日，经一夜激战，两团强渡潇水，占领了县城，并在潇水架起数座浮桥，使中央军委和其他红军部队顺利地渡过潇水。
蒋介石得知红军快速过潇水的消息，心里想：你们过了第一江，过不了第二江。于是，他急调20个师的兵力，在湘江布下一道严密的封锁线，企图凭借湘江险阻，从四面对中央红军进行围追堵截，从而把红军消灭在湘江东岸。他的部署是：以第一路“追剿”军日夜兼程，开赴广西全州沿湘江布防，与在灌阳、兴安以北的桂军取得联系，进行堵截；第二路“追剿”军沿湘桂公路对红军进行侧击，并防止红军北上与红二、红六军团会合；第三路“追剿”军占领道县，继续尾追红军；第四路“追剿”军与第三路相配合，由桂阳向宁远方向尾追红军；第五路“追剿”军协同粤、桂军，向水口、永明尾追红军；桂军五个师仍在港口亨、兴安以北至全州地域集结，堵截红军西进；贵州省军阀王家烈派出有力部队到湘黔边进行堵截。
本来，从宜章至湘江间广大地区，国民党的防御力量还是相当薄弱的，加上这一带又是无堡垒地区，便于红军机动作战，如果红军趁蒋介石调动各路大军之际，集中兵力寻机歼灭一路敌军，形势就会有很大的改观。然而，李德、博古这时所想到的只是赶快转移，脱离危险