阎锡山十分清楚山西的处境。

他看到山西有被国民军包围并瓜分的危机，自己的力量尚不足以抗争。

张作霖连年征战实力也已大不如前，此时又受内部兵变的困扰，没有力量援助山西。

解围的希望，就寄托在吴佩孚北上。

但第二次直奉战争中自己出兵石家庄，曾得罪于直系；而当下要保持与冯玉祥在面子上的联合，又不便于大张旗鼓地与吴佩孚来往。

思来想去，他决定派一个资历浅而不为世人注意的小人物，前往吴佩孚处联络。

这个小人物就是《晋阳日报》的主编梁航标。

梁航标到汉口见到吴佩孚后，先是转达了阎锡山表示悔过的自责之词，恳求吴大帅不念旧恶，共图大局，并保证在直系军队北上之时，山西军队可东出太行，南攻陇海，击溃国民军的二、三军，然后与吴大帅合力围攻国民一军。

阎锡山的悔过、恳求和建议，正合吴佩孚之意，于是也就一拍即合。

1926年的春天，张作霖，吴佩孚，阎锡山合力反冯的战争就拉开了序幕。

直系军队从湖北北上，攻击国民二军；晋军出太行，出娘子关，攻击国民三军；奉军迅速入关，威胁和攻击国民一军。

三方联合，对冯玉祥形成了大包围的态势。

冯玉祥见形势逼人，为避免国民军遭受三方的联合打击，就通电辞职，国民军退出北京，军队由部下张之江、鹿钟麟指挥，自己则出国赴苏联考察去了。

冯玉祥虽然下野，联合反冯的攻势并未因此停顿，4月6日，三方下达了总攻击令，倒冯战争于是全面铺开。

4月中旬后，国民军退出北京，东路军抵挡奉、直军队的进攻，西路军则在山西北部与晋军交了火。

开始阶段，晋军溃败，损失惨重，使阎锡山很是紧张。

他把军队撤到雁门关一线，心急火燎地请吴佩孚支援。

同时就准备自己的后退之路，让部下在京津为自己购买房屋。

此时，形势却又发生了变化。

国、共两党合作组建的广东革命政府，在苏联的大力支持和资助下，决定北伐。

直系在湖南的地盘首当其冲，吴佩孚得知这个消息，无心再在华北作战，准备回师南下，保卫自己的老窝。

张作霖大吃一惊，生怕因直系退出，不仅难以解决冯军的问题，自己反会孤立无援，受到攻击。

因此，他忙与吴佩孚商定要限期击败国民军。

奉军立即增调骑兵上前线，猛攻多伦多，威胁张家口，并要阎锡山配合，兵出雁门关，截断国民军向西北的退路。

在直、奉联军的猛攻之下，国民军东路军失掉了多伦多和南口等战略要地；西路军在山西北部与晋军多次激战，消耗大量兵力，也未能攻下形势险要的雁门关。

国民军被迫败退西北，此后就被称为西北军。

西北军的溃败，给晋军造成了可趁之机。

阎锡山瞅准时机，乘国民军撤退之际，派兵向绥远方向追击，大获其利。

国民一军的陈希圣、韩复榘、石友三的队伍，先后被迫投降。

阎锡山一下子增加了三个师的军队，将势力范围扩张到了绥远，占领了包头。

这次讨冯，阎锡山再次获得厚利，把自己的势力范围扩张到了绥远，于是宣布把晋军改编为晋绥军。

在直、奉、阎联合讨伐冯玉祥期间，广东革命政府的北伐也在积极准备之中。