南岛的消息，如一声惊雷在国民党内部引起了恐慌。又得知既拥有空军又拥有海军的第三野战军即将对舟山群岛实施大规模的三军联合作战，且已重兵压境，处于引弓待发之势，台湾和舟山守军更加惊恐不安，丧失信心。美帝国主义和蒋介石见势不妙，为了保存实力，巩固台湾，急令国民党军撤出舟山群岛。5月上旬，蒋介石及国民党一些重要军事头目亲自在舟山群岛进行活动。5月7日，舟山司令官石觉专程飞往台湾拟制秘密撤逃计划。他们一边在准备撤逃，一边大造反击金塘岛的舆论，还对浙江沿海地区和舟山外围岛屿频繁轰炸、炮击，严密封锁航道。5月12日，台湾调44艘大型载重舰船前往舟山群岛，准备撤逃。
5月13日，舟山守敌在海空军的掩护下，开始紧急撤逃。撤逃时，他们把2万居民抓去台湾，不愿去的被当场枪杀。他们不仅进行疯狂的血腥镇压，而且到处抢劫，无恶不作。
5月15日，陈毅司令员电示第七、第九兵团：“舟山守敌在我军的威迫之下有逃窜的可能，必须立即摸清虚实，采取行动。”当晚，前线部队派出侦察兵连夜过海侦察，证实了陈毅的判断。16日，第三野战军立即命令第二十一军、第二十二军和第二十三军向舟山本岛和外围岛屿发起攻击，追歼逃敌。从16日夜开始，在东起登步岛，西至册子山近30海里的海面上，万舟齐发，进行全线追击。17日，第二十二军和第二十三军占领舟山本岛。接着，第二十一军于18日占领普陀山、朱家尖；第二十二军于18日占领岱山，19日占领长涂岛。至此，舟山群岛全部解放。在我军进占该岛时，国民党军已基本撤退完毕，只有少数散兵游勇被俘获。整个舟山战役，我军共歼灭国民党军8000余人。7月上旬，第三野战军又以吴淞警备区和华东海军一部兵力，解放了嵊泗列岛。
舟山群岛解放后，中央军委给第三野战军发来贺电，指出：舟山群岛的解放，粉碎了国民党军对长江口的封锁，为保卫海防安全创造了有利条件。