临安经杭州、肖山向义乌进发。此时，南京部队已经溃败，汤恩伯要抽兵保杭州、上海。
5月2日凌晨，廖运升率领司令部及直属队乘火车最后到达义乌。司令部驻地设在义乌图书馆。
刚安排妥当，廖运升的顶头上司、85军军长吴求剑，派出两名高参、一个连的工兵，押着火车来到义乌站。
他们来是为了把110师的全部家属接上火车，运往福建，企图以全师随军家属作人质。廖运升心里明白上司的用心，就以无钱、无粮、无法安置，需作准备等种种理由为借口，坚持不让家属上车。
军长吴求剑多次来电话催廖，廖运升始终不松口。
双方一直僵持到当日中午，接家属的火车撤走。
但是下午，第6兵团司令官李延年从金华发来电报，命令110师迅速开往金华，归他直接指挥。
廖运升感到事态严重，他认为若去金华，必入陷阱。不去吗，那对抗就明显化了，必须马上起义。
经与陈赓派去的敌工科长杨振海同志研究，认为时机已到，决定立即行动。
5月2日晚上，廖运升在义乌图书馆后院的一个僻静处，召开各团团长及高参等6人参加的秘密会议。
廖运升说：“陈赓司令员派人民解放军42师敌工科长杨振海同志，携带廖运周给廖运泽和我的密函来我师，动员我们起义，以策应大军南下。只有起义，弟兄们才有生路。”
然后他宣布：“5月4日是历史上弃旧近新的日子，我们起义了！”
廖运升讲完后，就得到了330团团长张普庆的响应，接着，其余的人也当场表示，愿与师长同生死、共患难，拥护起义。
5月3日天明后，国民党飞机不断在义乌上空盘旋。
当时的形势是复杂的：85军司令部及直属队在金华；该军35师在东阳，另一个师在诸暨；318师彭怀霖部正尾随110师之后。
兵团司令官李延年虽已南窜，但他下属的96军却也在距义乌不远。
为此，廖运升决定当天晚上，把部队拉进义乌西北的黄宅一带山区，将副师长刘希文和参谋长叫到他的办公室说：“对不起，事先没有告知你们，部队已决定起义了。”
两个人没有明显的变化。
夜幕降临，在游击队向导的带领下，部队向山区进发。
廖运升义正辞严地宣布：“我们决定起义了，投向人民解放军，走向光明大道。”
廖运升的话得到了广大官兵的支持。有人当场高呼：共产党万岁、人民解放军万岁等口号。
毕竟兵多人杂。就在廖运升宣布起义时，在会场的一角，330团有个连长突然站起来，掏出手枪，要向廖射击。
会后，廖运升向全国发了起义通电。
起义誓师大会刚结束，土匪出身的副团长路家云，提着手枪，一路叫骂着，要找廖运升算账。见廖不在，便一把揪住赵继武的衣领大骂：“你敢把部队带走，我就枪毙你。”
参谋长盛燮勤也乘机而起，掏出手枪，装上子弹，怒目而视。幸好在团长陆亚夫等几个军官的阻拦下，他们也同时掏出手枪，指着两个闹事者的脑袋，他们才都收起枪。
5月11日，解放军师长李德生率三兵团第35师开进义乌城，这支起义师也重返义乌。几天后，110师的3个团8000余人，分别拨给12军的3个团，正式跨进了解放军的行列。
在110师起义的同时，解放军各战场继续以破竹之势，杀向国民党军腹地。
5月4日至7日，第二野战军占领了上饶、贵溪、横峰、金华、衢县等地，控制了江浙赣线，切断了汤恩伯集团和白崇禧集团之间的联系。
在此期间，林彪的第四野战军一部和中原军区部队，先后占领了孝感、黄陂，逼进武汉地区，完成了牵制白崇禧集团的任务。
渡江作战第二阶段胜利结束。
5月6日，中央军委下达了《为即行部署占领吴淞、嘉兴以断沪敌逃路的命令》：
粟裕、张震转谭震林、王建安、姬鹏飞并告陈毅、饶漱石、刘伯承、邓小平：
（一）陈、饶5日电悉。
（二）请粟裕、张震即行部署于5月10日以后、5月15日以前数日内先行占领吴淞、嘉兴两点，封锁吴淞江口及乍浦海口，断绝上海敌人逃路，使上海物资不致大批从海上逃走（据上海吴克文义次报告，汤恩伯正在运走物资），并迫使用和平方法解决上海问题成为可能，请粟裕、张震以具体部署电告。
（三）为着占领吴淞，对于昆山、太仓、宝山三城，恐不能不去占领。但嘉定城及昆山城以东之陆家浜、安亭等处，如果可以不占，暂时不要去占。
（四）在占领嘉兴以后，应继续占领嘉善、金山、平湖、乍浦、金山卫诸点，但青浦、松江、奉贤等地暂时不要去占。
（五）此外，谭震林、王建安、姬鹏飞集团在杭州地区休息数日后，应派一个军至两