央军委赋予东北野战军的这一神圣使命，林彪、罗荣桓以第十二兵团部率第四十、第四十三军和炮兵第一团、后勤部第二分部及工兵第一团（2个工兵营）组成先遣兵团，先行南下。全兵团共约12万人。
第四野战军先遣部队，为配合西线我军作战，牵制白崇禧集团，先后解放了湖北省浠水、黄海、荆门、汉川等地，并相继向长江挺进。
这是第四野战军一部在山区追击敌人
2月25日，先遣兵团从平津地区出发。第四十军由通县的马驹桥沿（北）平汉（口）公路向郑州前进，第四十三军由廊坊的马头镇沿（北）平大（名）公路向开封前进，十二兵团部、炮兵第一团及第四十、第四十三军的炮兵团则乘火车从天津经徐州到达开封。
肖劲光率部出发后，中央军委进一步明确了先遣兵团的任务及指挥关系，并于3月20日致电肖陈解潘，刘伯承、邓小平、李达并告林彪、罗荣桓、刘亚楼：“东野先头两个军的任务，是协同桐柏、江汉、鄂豫三军区力量钳制白崇禧部，使白部不能向东增援妨碍我中野、华野之渡江。”因此，“肖陈解潘受刘邓指挥，一切依刘邓意旨行动”。为协调先遣兵团与桐柏、江汉、豫鄂3个军区的关系，二野明令3个军区受先遣兵团指挥。
根据刘邓的指示，先遣兵团调整部署，以主力沿平汉铁路东侧向南疾进。第四十军于3月30日收复驻马店，4月2日解放信阳。第四十三军进入大别山后，4月5日解放宣化店、河口、黄安，与鄂豫军区部队胜利会师。
与此同时，位于平汉路西侧由王宏坤领导的桐柏军区和由张才千领导的江汉军区，在先遣兵团的指挥下，集中了5个旅的兵力，对驻守花园的桂系第七军第一七一师的两个团发起攻击，歼其第五一二团2100余人。
在解放军的打击下，河南及湖北北部的白崇禧部纷纷南逃。4月上旬，先遣兵团进入湖北境内，与桐柏、江汉军区部队相配合，乘胜歼敌，先后解放了花园、汉川、应山、广水和鄂东的浠水等广大地区，迫使白崇禧把其第三兵团从赣北调往武汉地区，保证了二野的侧翼安全，实现了中央军委规定的“4月15日以前夺取花园、孝感地区，迫近汉口，休整待命，钳制白崇禧部不敢向南京增援，以利刘陈邓夺取南京”的目标。
信阳解放后，第十二兵团部移驻湖北与河南交界的鸡公山。小小的鸡公山车站成了兵团的司令部，肖劲光等兵团领导则住进一座离车站不远的别墅。
“迫近汉口”的目标虽然实现，但“麻烦事”也就来了。
由于白崇禧的代表刘仲容到达北平，中共的“联桂反蒋”也就到了具体实施阶段。双方商定：桂系在安庆及安庆至黄岗一线的部队限4月10日前撤退完毕，在黄安、麻城、浠水、武穴等地的部队同样撤退，由解放军进驻；黄冈、团风、花园、孝感、汉川、蔡甸、黄陵矶一线及其以南地区，解放军暂不进占，已占者一律不动。
据此，中央军委于4月5日致电二野的刘伯承、张际春、李达和先遣兵团的肖劲光、陈伯钧，要他们分别派人去白崇禧部队联络。然而，有回音的只有安庆问题。李宗仁、白崇禧称：和谈未成，从先安庆撤军对外不好交代，桂系在安庆的第一七四师倒是可以撤出，但目前尚抽不出其他部队去安庆。就这样，桂系关于双方驻军问题承诺一个也没有兑现。
对李宗仁、白祟禧的争取，毛泽东可谓仁至义尽。但随着国共和谈的破裂，桂系的“联共”谎言也就被彻底戳穿。
4月28日，中央军委电告林彪、罗荣桓，刘伯承、张际春、李达，肖劲光、陈伯钧：“和谈破裂，桂系亦从来没有在具体行动上表示和我们妥协过，现在我们亦无和桂系进行妥协之必要。因此，我们的基本方针是消灭桂系及其他任何反动派。”
此时，南京已经解放，二野、三野正对汤恩伯集团发起全面追歼，先遣兵团钳制白崇禧集团的任务业已完成。与此同时，四野主力已于4月11日由平津地区出发，正在郑州、开封一线集结，进军中南的行动已经开始。为此，在4月28日的电报中，中央军委还特别指出：“从电到日起，肖陈归林罗直接指挥，解除刘邓张李对肖陈的全部指挥关系。”此后，第十二兵团归建四野，不再归二野指挥，其作战行动也就属于四野进军中南的范畴。
随着四野主力向湖北挺进，中央军委开始考虑四野80万大军的作战、吃饭问题。5月9日，中央军委致电林彪、肖克：“你们主力已越过陇海线，快要到湖北境内了。根据长江北岸地区的粮食状况，大军久住困难必多。又根据白崇禧的意图，不是准备在衡州以北和我军作战，而是准备逐步撤退至衡州以南。因此，你们全军似有提前渡江时间的必要。并且不必全军到达北岸然后同时渡江，可以采取先后陆续渡江的办法。”10日，林彪、肖克复电中央军委：“我们完全同意极力使我军提前渡江，并实行先头先渡江的办法，而不必等待全军到达北岸后再渡。”同日，林彪、肖克还致电肖劲光、陈伯钧：“你们先头两个军（共8个师的兵力）应争取提