精卫公开投日后，曾委派他的第二厅厅长王翼之和日寇头目冈村派人去点验，刘昌义率部反戈，歼日伪军600余人，并把敌伪头目押去重庆处理，曾受到国民党当局的重视。部队改编为暂编第15军，刘昌义晋升为中将军长。
1944年春，在中原战场上，汤恩伯的50万大军不战而溃，而刘昌义的暂编第15军却在中牟——许昌的防线上作了拼死抵抗。鏖战半个月，付出了两个师的代价。
由于对日作战有功，刘昌义受到老蒋的接见，并授予一枚“三级云麾勋章”。
但是，刘昌义作为一名抗日英雄，在老蒋那里，随着抗战的胜利，他的使命便结束了，因为他不是黄埔生，不是嫡系。
1945年1月，蒋介石给刘昌义来个明升暗降，撤掉他的军长职务，挂了两个副司令的空衔。旧部属随后被整编遣散。
刘昌义一时心灰意冷。这时，中国民革在香港成立，领导人是李济深、蔡廷锴，背后有共产党的支持。经人介绍，刘昌义于1948年底加入民革。
1949年4月大军渡江以后，刘昌义随部队由常州迁至上海崇明岛。因为刘昌义没有实际兵权，就以养病为由，不愿呆在崇明岛，而住上海的新亚饭店。
正当汤恩伯等高级将领忙于保卫大上海的时候，这位中将副司令却是比较清闲的一个。
因此，他总是找机会去看看汤恩伯，到淞沪防卫司令石觉等人家中玩玩牌儿，和他们保持着密切的联系。
这时候，却没有人把他放在眼里。蒋介石在复兴岛连续三次召开团以上干部会，就没有叫他。
有一次，在石觉家中，刘昌义碰到蒋纬国，这位蒋二公子说：“副座，我从当连长时起，就同你认识了，你是西北军名将，抗日功臣。现在，我父亲有困难，你要为作战多出力啊。”
这让刘昌义很感动，说明党国还用得着自己。但是自己没有兵权啊。
5月16日，国民党第51军在浦东白龙港被解放军歼灭，军长王秉璋被俘。消息传来，刘昌义心里为之一动。他赶到上海浦石路汤恩伯家里，对汤说：“51军没有军长了，部队很乱，应当有一个人去招呼。”
汤恩伯当即同意他兼任51军军长。
5月22日，刘昌义走马上任，收编了总共还不足两个团的51军残部，布防在苏州河北岸造币厂桥以西一线。
当天晚上，汤恩伯把苏州河南的75军、54军、浦东的37军全部撤至苏州河北。同时，由51军、21军、123军组成北兵团，由刘昌义兼任北兵团司令，并兼任京沪杭警备副总司令。
正是这样一再加官封爵，反倒使刘昌义清醒过来。
看样子，汤将军要跑了。自己不过是升为汤恩伯逃跑的“替死司令”罢了。
正当聂凤智军在河南岸受阻，焦急万分的时候，刘昌义也已拿定了主意，决定不再给汤恩伯当替死鬼了，起义反抗。
由地下党在中间牵线，刘昌义和27军81师取得联系。
刘昌义在和81师政委罗维道的谈判中，最热切的要求就是，保留部队建制、番号。他能谋到这样一个官、拥有这么多兵已是很不容易了，所以，他要求保留。他说：“我的兵虽不多，但还有几个团。”
罗维道笑了笑，说：“刘将军，恕我直言，你们如果还要继续抵抗的话，我军在一小时内就可以把你们消灭掉。”
败兵之将无以谈勇，刘昌义此时只得连连点头，说：“那是！那是！”
在签订起义协议书上，刘昌义自己又写上“起义以后保留部队建制、番号”一句，但被罗维道毫不客气地划掉了。尔后，双方在协议书上签了字。
刘昌义被带到27军军部指挥所，受到聂凤智的热情接待。聂军长把此事向粟裕作了汇报，粟裕当即口授了命令，限刘部于26日中午在江湾附近待命；所撤地区由解放军接防；凡拒不接受命令者，由人民解放军解决之。
5月26日，27军打过苏州河，边打边用广播喊话，刘部21军、123军大部在阵地前放下武器。
但是，国民党第37军及交警总队还在造币厂桥以东至外向桥一带继续阻击，负隅顽抗。
解放军27军会同23军、20军一部，从正面及侧翼予以猛击，至26日中午解决战斗。同时，解放军26军攻占大场、江湾；第25军、29军攻占吴淞、宝山；第28军、33军攻占杨行等地。
5月27日凌晨以后，上海市以及吴淞口方向的枪声渐停。这时一直停泊在吴淞口处，以极大的兴趣看热闹的英、美军舰，此时也拖着长长的黑烟，消失在茫茫的大海。
蒋介石严令坚守“六个月”，英美将会援助的预言、希望，像一个气球，被解放军用手一捅，就破灭了。
上海解放了。
5月27日，天亮了，数十万人民走上街头，欢庆解放。