仅部队在追，紧随其后的大量支前民工也推着小车、抬着担架，一刻不停地跟着追。
从新安镇地区向西行进，最大的麻烦是过运河。黄百韬预先考虑到了这一点，事先就与徐州“剿总”联系，要求派工兵在运河上架设浮桥。“剿总”答复说将派出一个工兵团，结果是一个工兵的影子也没见到。原先预料中的浮桥没有了，除六十三军之外的四个军全部都只能从唯一的一座铁路桥上通过。加之四十四军从海州方向西撤时，夹带了大量的跟随西撤的家属、商人、职员、乡绅、学生等，总数竟有10万人之多，又是轿子，又是车子，大大影响了过桥速度。
11月8日从早晨到中午，黄百韬的六十四军、兵团直属部队与兵团总部、四十四军陆续通过铁桥。下午两点，我华野的先头部队在九纵司令员聂凤智的率领下就已经追到运河边，各种火力一齐向桥面打去。敌第二十五军和一零零军一边抵抗，一边过桥，虽然在黄昏时分都过了桥，但是二十五军被我歼灭了一个团，一零零军四十四师也被我歼灭一部。8日下午，当黄百韬的大部队渡过运河之后，为了摆脱我军的追击，在敌二十五军一零八师还未过铁桥时，黄百韬就悍然下令炸毁了铁桥。当天晚上，黄百韬兵团到达了距徐州只有75公里的碾庄。由于这两天已经跑得相当疲惫，部队又相当混乱，黄百韬下令在11月8日晚上部队休整，整理队伍。之所以敢于停下来休整，是因为黄百韬认为华野还不能追上他的部队，认为他的部队已经接近徐州了。还有一个重要原因，就是黄百韬认为工兵已将运河铁桥炸毁了，河东的解放军主力过不来了；他还认为，河西是没有解放军主力的，有的只是一些地方部队。
可以肯定，黄百韬在估计我军的行军速度上犯了一个致命的错误，因为他没想到我军能以超乎寻常的速度追了上来，没想到我军能以他想不到的方式渡过运河，更没能想到我军会突然插在他的前面。我军为了追赶敌人，有桥过桥、有船乘船，没桥没船就涉水而过。九纵的“潍县团”官兵在渡河时竟站在水中，用自己的身体扛着攻城用的木梯搭成便桥让战友们跑了过去。这样，就在黄百韬在碾庄休整的这天，我山东兵团利用第三绥靖区贾汪起义所造成的有利条件，以超常的速度南下，在11月9日插到了碾庄与徐州之间，七纵到了大许家和黄集，十纵到了东贺村，十三纵到了曹八集。这样，黄百韬兵团退回徐州的路就被切断。
到了11月10日，我华东野战军就展开了对黄百韬兵团的包围，到11日就从四面完成了对黄百韬兵团的包围。黄百韬兵团4个军大约12万人就被我军包围在以碾庄为中心的大约18平方公里范围之内。时间在这个关键时刻真是显得太重要了。战后，粟裕这样说：“只要我们在贾汪多待4小时，我们的机会就丢失了。”
被我军包围在碾庄的敌军是4个军，即二十五军、六十四军、四十四军和一零零军，不过只有六十四军和四十四军还是完整的。被包围的范围是东西6公里，南北3公里，中心是碾庄。本来还有一个六十三军，这个军是在完成了掩护全兵团撤退的任务之后才出动的，由于沿陇海一线人马太多，所以没有沿着陇海路西撤，是从南边向西撤退的。11月7日上午11点出发，刚走了20公里就被我苏北兵团的先头部队追上。
六十三军边打边撤，11月8日黄昏到达运河边上的窑湾镇时即被我军包围。窑湾没船没桥，由于六十三军是粤系余汉谋的旧部，本是广东部队，官兵中不少人都会游泳，于是，会游泳的就强行游泳渡河，其余就在窑湾镇拼死抵抗。我军的十一纵最先赶到窑湾，就在敌人渡河时加以痛击。很快我一纵也飞兵赶到，遂对敌人进行强攻。战斗到11日下午，无论是已渡河的还未渡河的，除了军参谋长宋健人、一八六师师长张泽深等极少数人化装逃跑之外，全军被我歼灭。军长陈章抱着一块木板泅水渡河，刚一上岸就被我军的密集扫射所击毙（粤系军阀余汉谋为了给自己的部下贴金，在对外宣传时说陈章是自杀“成仁”，在南京和广州开了追悼会，当时连六十三军的几名高级将领都称之为“最为可笑”）。这个军就成为我军在整个淮海战役中最早消灭的一个军。