西安事变和平解决后，1936年12月25日，张学良送蒋介石回南京，从此一去不复返，于是轰轰烈烈的壮举之后便揭开了千古遗恨的悲剧序幕。近20万东北军群龙无首，并在主战主和问题上发生严重分歧，最后竟发展到内部残杀。1937年2月2日，不顾大局的东北军少壮派应德田、苗剑秋、孙鸣九等人杀死东北军元老派67军军长王以哲、西北总部参谋处处长徐方、副处长宋学礼和交通处长蒋斌等人。血案发生后，王以哲的至交、第105师师长刘多荃为了替王以哲报仇，将部队开进西安搜捕少壮派军官，诱杀了对促成东北军联共抗日有功的旅长高福源，致使内部残杀的悲剧愈演愈烈。危急关头，中共代表周恩来苦口婆心多方做工作，才避免了事态的进一步扩大。1937年3月东北军高级将领轻率地接受了蒋介石提出的东北军东调的“乙案”，钻入了各军不相统属、部队分割使用的圈套。东北军遂东调，分驻豫南、皖北、苏北地区。4月到6月，南京政府对东北军进行整训、缩编，化大为小，化强为弱，由每军四师的甲种军缩编成每军二师、每师二旅的乙种军编制，仅骑兵第2军保留三个师。整编后的东北军有6个军：第49军，军长刘多荃，辖第105师（师长高鹏云）和第109师（师长赵毅）；第51军，军长于学忠，辖第113师（师长周光烈）和第114师（师长牟中珩）；第53军，军长万福麟，辖第116师（师长周福成）和第130师（师长朱鸿勋）；第57军，军长缪徵流，辖第111师（师长常恩多）和第112师（师长霍守义）；第67军，军长吴克仁，辖第107师（师长金奎壁）和第108师（师长张文清）；骑兵第2军，军长何柱国，辖骑兵第3师（师长徐良）、骑兵第4师（师长王奇峰）和骑兵第6师（师长刘桂五）。西安兵谏后叛离东北军的第106师（师长沈克）、骑兵第10师（师长檀自新）、炮兵第6旅（旅长黄永安）、炮兵第8旅（旅长乔方）均依附蒋军另立门户。原由东北义勇军编成的冯占海的第63军番号被撤销，仅保留了第91师。另外，抗战爆发后，马占山还受命组建了一支新的部队——东北挺进军。

在抗日战争和解放战争中，东北军被蒋介石分割使用于各个战场，逐步被削弱、肢解、消灭，也有一部分在战场上起义，走向了新生。

第49军

1937年8月中下旬，日军开始沿津浦路大举南犯。刘多荃率第49军进驻沧县及静海附近。8月21日，由日军第10师团步兵第10联队主力组成的右侧掩护队，开始向静海前进。49军之一部立即加以阻击，与敌发生激烈战斗。日军以猛烈的炮火向静海轰击，49军守军奋力抵抗不支，被迫向南撤退。

1937年10月底，49军被调到淞沪战场。105师在钱江弄、江桥一线坚守阵地，遭到日军重火力猛攻，626团团长顾忠全阵亡，该团一营伤亡过半。109师在纪王庙、马同桥一线与数倍日军苦战，四个团长中高睦姻、姜奎举等三个团长相继阵亡，营长伤亡了2/3。109师一个整师基本打光了。

尽管第49军损失惨重，但蒋介石在战后根本不理睬其整补的要求。万般无奈之下，刘多荃带着109师师长赵毅亲自到武汉去活动，花了好大一笔钱才打通了门路，调来了全部徒手的预5师补充109师。预先讲好条件，赵毅仍为109师师长，原预5师的团长以上主官全部留任。刘多荃将张学良当年留用的一部分武器装备该师。补充后的109师一式捷克式步枪，每连六挺捷克式轻机枪，每营配有重机枪连，团有迫击炮，堪称装备精良的生力军。然而刘多荃、赵毅高兴得没多久，在一次下命令让109师开拔时，原预5师留任的四个黄埔生团长全部告长假，部队一点也开不动。事情反映到蒋介石那里，蒋介石非但不处分故意捣蛋的团长，反而借机将赵毅撤职，换上了嫡系李树德，刘多荃任命的其他东北军军官也都被撤换掉，接着又将109师划归第1战区刘峙指挥。49军的一个整师就这样被剥离。1939年大批日军猛攻南昌，刘多荃率部守御松山、万家埠一线。由于修水作战失利，又被蒋介石借题发挥，揪住不放，对49军大加挞伐，刘多荃由中将军长降为上校军长；105师师长王铁汉撤职留任，责令戴罪立功；副军长高鹏云、参谋长秦靖宇相继调离，另派中央嫡系林耀堂和凌振仓分别继任。谁能料到，东北军整整一个第49军就此名存实亡了!

1941年12月，王铁汉升任第49军军长。1947年9月，第49军被调往东北参加内战，后来在辽沈战役中被人民解放军全歼。王铁汉在大陆解放前逃往台湾。第49军前军长刘多荃则留在大陆，全国解放后曾任政务院参事室参事和全国政协委员。

第51军

1937年8月，第51军被调往山东，负责海防守备，于学忠任第3集团军副司令兼第51军军长。1938年1月升任第3集团军总司令，不久又改任第5集团军总司令。

1938年1月，日军调遣16个师团共计23万兵力，沿津浦铁路一南一北，分两路夹击战略重地徐州。于学忠以51军两个师的兵力约2.5万人，死守蚌埠，血战临淮关，顶住了日军3个师团共计4万人的疯狂进攻。在连续8天的防守中，51军伤亡七千余人，但他们守住了淮河，日军的伤亡达九千人以上。

淮河战役后，于学忠率领疲劳之师增援台儿庄，任中央兵团副总指挥，在率部智取韩庄、争夺贾家埠、血战禹王山的战斗中再立战功。徐州撤退时，于学忠率部殿后，该部被敌人分割包围，切成数段，但他指挥部队浴血奋战，终于杀出重围，胜利完成了掩护任务，受到第5战区和国民政府军事委员会传谕嘉奖，并晋升为一级上将。

l938年6月，51军奉命参加武汉会战，于学忠任第3兵团副总司令兼第5集团军总司令，在大别山麓与日军激战。武汉失陷后，于学忠率部开往大别山打游击，袭击敌人后方，并在金家寨一带进行休补。

1939年2月，于学忠被任命为鲁苏战区总司令，指挥东北军51军、57军到鲁南山区打游击。此间他不再兼任51军军长职务，114师师长牟中珩升任军长。从1939年到1943年，在鲁南抗战5年中，于学忠部伤亡惨重。

1944年3月，于学忠被免去苏鲁战区总司令的职务，任国民政府军事参议院副院长，从此失去军权。牟中珩在1944年12月调任第10战区副司令长官后，原113师师长周毓英继任第51军军长。

解放战争时期，第51军被改为整编第51师，周毓英任中将师长，驻守枣庄。1947年1月，周毓英率整编第51师师部向我华东野战军投降。牟中珩在1946年出任第二绥晋区副司令，1948年9月在济南战役中被俘。1949年初，蒋介石曾胁迫于学忠去台湾，在中共地下党人的帮助下，他避居四川重庆乡间。建国后，于学忠曾任第一届全国政协委员、国防委员会委员、河北省人民委员会委员、河北省体委主任等职。