1930年中原大戰後，世人皆知馮玉祥在戰敗後，通電下野解甲歸田，西北軍自此瓦解，馮玉祥的部屬紛紛自找門路。但卻不知馮玉祥此時還保留有最後一支武裝力量，再其避居在山西省汾陽縣峪道河附近，帶領這支武裝，作為自己東山再起的保障。
這支武裝共編有三個團。
一個團是炮兵團，團長是劉田，按照西北軍精銳吉鴻昌部炮兵編制推測，預計應該有重迫擊炮12門以上，75mm重炮12門以上，人員編制1400人左右，基本達到當時舊中國軍隊中軍屬炮兵的火力。
一個團是手槍團，團長是李振宇。舊中國軍隊都知道，西北軍的手槍隊以一手駁殼槍、一手大刀，並不停投擲手榴彈的作戰風格，在軍閥中獨樹一幟。裝備除了有我們熟悉的20響盒子炮，也就是毛瑟軍用手槍及國內仿制型外還一般轄一個手提機關槍連-手提機關槍就是衝鋒槍。因為中國軍隊火力匱乏，所以常常被當作機槍使用。在舊中國這種火力輸出，基本可以擊潰敵人一個旅。手槍團在西北軍中就是特種兵，這個團人數預計三營1400人左右。
一個團是軍官教導團，也就是西北軍汾陽軍校，其前身是西北軍所辦的第二集團軍軍官學校，又稱開封軍校，該軍校又與從洛陽退來的憲兵學校合並，改編成汾陽軍校， 校長為李興中（對外被稱為軍官教導團團長），副校長為支應遴，教育長為尹心田。原來有師生2000人，後來繼續擴招到3000人，對外名義上是宋哲元部第二十九軍第二軍官教導團。實際是為了保留了馮玉祥在西北軍的骨幹精銳力量，成為馮玉祥日後東山再起的最大憑借。因為西北軍的骨幹都收入汾陽軍校，隨時都可擴編，也是馮最重視的軍事力量。
憑借著這支6000人的武裝力量，也是馮玉祥下野後，積極進行反蔣抗日在樹西北軍大旗的信心所在。而且這支武裝確實具備快速擴編的能力。在1933年建立察哈爾抗日同盟軍時，馮玉祥在五月以這支武裝力量為基礎，加上29軍過來幫忙的彭國政團為基礎，快速擴編成一軍兩師合計2萬多人的武裝力量，分別是第一軍以彭國政為師長的，以手槍團和炮團加上29軍步兵團為核心改編而來的第一師。以支應遴為師長的，以汾陽軍校3000名師生為核心的第二師。該部隊也是察哈爾抗日同盟軍12萬大軍中最強的一支。
雖然1933年8月在國民黨和日偽軍的軍事壓迫下，馮玉祥被迫宣布下野，解散察哈爾同盟軍，但是其也做了一番布局，想保住一支直屬自己的軍事力量。
一是炮團，因為察哈爾抗戰，炮團已經被中央軍註意無法帶走，因此直接從第一師獨立出來，交給舊部宋哲元部收編，做個順水人情，既能給跟誰自己的官兵找口飯吃，又能讓宋哲元感恩。
二是第二師，汾陽的軍校這支武裝馮玉祥想讓宋哲元直接收編，但是保持一定獨立性，原計劃想讓支應遴作為主官被宋哲元改編成一個師，讓支當師長，這樣馮透過支應遴還能對該部保持影響力。
三是帶領察哈爾抗日同盟軍總部一部份軍事人員及自己衛隊營並把彭國政師改成團保留精銳，退入到自己舊部韓復榘的地盤山東泰安，以圖下一步。
結果，出乎馮玉祥的想象，一場察哈爾抗戰後，讓馮玉祥失去了最後的武裝力量。
炮團送給了宋哲元後，原為馮玉祥所倚重的汾陽軍校師生所改編的第二師，在馮玉祥下野之後，沒有完全按照馮玉祥的指示聽從宋哲元收編，而是要求西投陜北蘇區，中途被截擊，損失慘重，最後殘余部隊在師長支應遴的勸說下，同意改編，由馮玉祥舊部張允榮出面被宋哲元收編為一個團，宋哲元因這支部隊離心傾向強，改編很徹底，支應遴在宋部29軍雖然掛一個參謀長，沒有兵權，而且縮編很嚴重由師改團，原來大批幹部離開了部隊，等於馮也失去了與這支部隊的聯系。
對於跟隨馮玉祥到泰山的部隊，馮也遇到了個很棘手的問題，財政危機。手下的軍官加部隊約2000人，每月的開銷維持吃飯就要五六千元以上，原來在山西的時候，部隊是現在的三倍，但是宋哲元、張自忠、劉汝明等舊部還指望老長官東山再起，毫不吝嗇，負擔其軍費，積極協助，而且還給汾陽軍校編制，讓馮不用操心錢財問題。但是察哈爾抗戰後，西北軍這些舊部都想保住現有利益不想得罪中央軍，因此從經濟上開始限制老長官馮玉祥搞事情，比如山東的韓復榘，河北的宋哲元這兩位實力派西北軍將領，每月也就送個幾千元錢到泰山給老領導，這根本解決不了軍費問題，吃飯都不夠，而且手下的官兵還要養家。馮玉祥在 1934 年 4 月 4 日的日記中寫道: 「經濟壓迫最為厲害。經濟無辦法一切均無辦法，此極重極要之事。」馮也知道這些舊部，在經濟上壓迫他，沒辦法，馮玉祥只能將其在張家口的房子全賣出去，共賣二萬元， 進行維持。同時介紹手下軍官到西北軍舊部服役，幫助找工作。同時聯系韓復榘，收編彭國政團，但是希望保持獨立編制，這樣就有正式的軍餉，韓答應的很幹脆，給了第三路軍手槍旅第三團的編制，但是要該團從泰安開到濟南。結果部隊一到濟南，就被韓復榘繳械，士兵補入他的部隊，軍官到軍官教育團學習，彭國政及三個營長仍回泰山，陪著馮玉祥，不要馮的死忠分子。
自此馮玉祥最後的武裝力量徹底失去。
察哈爾抗戰中的失敗，讓馮玉祥的舊部徹底失去對老長官的期望，馮根本無法號召西北軍各實力派齊心對抗中央軍。因此西北軍的宋哲元和韓復榘兩個擁有地盤的實力派更想維護和中央軍的關系，而不願老長官找事情，變相透過經濟等手段進行壓迫，解除了馮玉祥最後的武裝。
而馮在失去最後的武裝後，也知道自己的舊部都成了軍閥，只考慮自己的利益再也不會聽起號召，因此逐步改變自己的思想，從反蔣抗日，變成促蔣抗日最後變成擁蔣抗日。
