1930年，北伐战争结束后，北洋军阀的统治时代彻底退出了历史的舞台，趁着北洋军阀的陨落，国民党诸多派系趁着这个时候壮大自己的队伍，不少的派系甚至有了能够与蒋介石总实力抗衡的势力。而蒋介石也为了保证自己的统治地位特地召开了紧急会议，规定每个军团最多只能保留11个军的实力。

这一举动明显就是为了削弱各方军阀的实力，像是当时的冯玉祥就坐拥军队40万人，阎锡山与李宗仁各自有20万人的势力，对于蒋介石的这一要求，阎锡山与李宗仁的部队都要削减大半，何况是冯玉祥40万人马的军队。而且军队一向都是这些军阀能够站稳脚跟的根本，为此一行人决定联起手来反对蒋介石。

由于兵力上的优势前期反蒋联军几乎是畅通无阻，蒋介石持续陷入被动状态，为了能够扭转战局，蒋介石特意拉拢了东北军一同入关作战，在双方强大实力的加持下，蒋介石成功夺得了这一场中原大战的胜利，也在形式上统一了中原地区。这一场中国近代以来规模最大且耗时最长的军阀混战。 6park.com

对于这一次的军阀混战，阎锡山受到了重大的创伤，20万的兵力仅仅只剩下了4万多，原先山西全境105个县也只剩下了晋西的7个县，他失去的不仅只有土地还有土地上的诸多的资源。战争的屡战屡败让军中的士气低迷，再加上革命精神的兴起，阎锡山一手建立20年的晋绥军竟在这个时候有了动摇的可能。

不过阎锡山却通过各种方式，重新夺回山西，东山再起。战败后的阎锡山为了自己能够再次卷土重来，特地送属下诸多的金钱，靠着金钱的诱惑成功保住了一部分曾经为他卖命的属下。而这些属下也在阎锡山离开山西躲避蒋介石的惩罚之时一直与阎锡山保持着密切联系。

与此同时，躲在大连的阎锡山一直都在密切的关注着国内外的战争局势，企图从中发现机会东山再起。当他得知日本即将发动大规模的侵华战争时，仿佛看到了新的希望，为此高价收买机师，做足了准备，只待时机成熟之时。

"九一八事变"结束后，太原学生在街道上举行抗日救国的游行活动遭到了国民党驻扎于山西军队的镇压，学生代表在这一次的混乱中被杀身亡，阎锡山便趁着国民党成为众口之矢时站出来为学生说话，平复民愤。但全国上下，不仅仅只有太原学生站起来反抗，几乎所有民众对于蒋介石以剿共为中心的政策一致反对，纷纷对此进行游行示威活动。

面对群众呼声日渐高涨，蒋介石只得被迫与曾经的反对势力握手言和共同抗日。而阎锡山也在1931年12月恢复了中央执行委员。即便恢复了执行委员的职位，蒋介石对于阎锡山曾经的反叛依旧心生不满，但阎锡山丝毫不放弃趁着这个机会提出诸多救亡图存的方案。更是让山西主席徐永昌主动提出转让主席之位，这一步步的计划皆在阎锡山的掌控之中。而阎锡山也在自己所安排的计划中逐渐受到了蒋介石的重用，得以东山再起。