1930年中原大战后，世人皆知冯玉祥在战败后，通电下野解甲归田，西北军自此瓦解，冯玉祥的部属纷纷自找门路。但却不知冯玉祥此时还保留有最后一支武装力量，再其避居在山西省汾阳县峪道河附近，带领这支武装，作为自己东山再起的保障。
这支武装共编有三个团。
一个团是炮兵团，团长是刘田，按照西北军精锐吉鸿昌部炮兵编制推测，预计应该有重迫击炮12门以上，75mm重炮12门以上，人员编制1400人左右，基本达到当时旧中国军队中军属炮兵的火力。
一个团是手枪团，团长是李振宇。旧中国军队都知道，西北军的手枪队以一手驳壳枪、一手大刀，并不停投掷手榴弹的作战风格，在军阀中独树一帜。装备除了有我们熟悉的20响盒子炮，也就是毛瑟军用手枪及国内仿制型外还一般辖一个手提机关枪连-手提机关枪就是冲锋枪。因为中国军队火力匮乏，所以常常被当作机枪使用。在旧中国这种火力输出，基本可以击溃敌人一个旅。手枪团在西北军中就是特种兵，这个团人数预计三营1400人左右。
一个团是军官教导团，也就是西北军汾阳军校，其前身是西北军所办的第二集团军军官学校，又称开封军校，该军校又与从洛阳退来的宪兵学校合并，改编成汾阳军校， 校长为李兴中（对外被称为军官教导团团长），副校长为支应遴，教育长为尹心田。原来有师生2000人，后来继续扩招到3000人，对外名义上是宋哲元部第二十九军第二军官教导团。实际是为了保留了冯玉祥在西北军的骨干精锐力量，成为冯玉祥日后东山再起的最大凭借。因为西北军的骨干都收入汾阳军校，随时都可扩编，也是冯最重视的军事力量。
凭借着这支6000人的武装力量，也是冯玉祥下野后，积极进行反蒋抗日在树西北军大旗的信心所在。而且这支武装确实具备快速扩编的能力。在1933年建立察哈尔抗日同盟军时，冯玉祥在五月以这支武装力量为基础，加上29军过来帮忙的彭国政团为基础，快速扩编成一军两师合计2万多人的武装力量，分别是第一军以彭国政为师长的，以手枪团和炮团加上29军步兵团为核心改编而来的第一师。以支应遴为师长的，以汾阳军校3000名师生为核心的第二师。该部队也是察哈尔抗日同盟军12万大军中最强的一支。
虽然1933年8月在国民党和日伪军的军事压迫下，冯玉祥被迫宣布下野，解散察哈尔同盟军，但是其也做了一番布局，想保住一支直属自己的军事力量。
一是炮团，因为察哈尔抗战，炮团已经被中央军注意无法带走，因此直接从第一师独立出来，交给旧部宋哲元部收编，做个顺水人情，既能给跟谁自己的官兵找口饭吃，又能让宋哲元感恩。
二是第二师，汾阳的军校这支武装冯玉祥想让宋哲元直接收编，但是保持一定独立性，原计划想让支应遴作为主官被宋哲元改编成一个师，让支当师长，这样冯通过支应遴还能对该部保持影响力。
三是带领察哈尔抗日同盟军总部一部分军事人员及自己卫队营并把彭国政师改成团保留精锐，退入到自己旧部韩复榘的地盘山东泰安，以图下一步。
结果，出乎冯玉祥的想象，一场察哈尔抗战后，让冯玉祥失去了最后的武装力量。
炮团送给了宋哲元后，原为冯玉祥所倚重的汾阳军校师生所改编的第二师，在冯玉祥下野之后，没有完全按照冯玉祥的指示听从宋哲元收编，而是要求西投陕北苏区，中途被截击，损失惨重，最后残余部队在师长支应遴的劝说下，同意改编，由冯玉祥旧部张允荣出面被宋哲元收编为一个团，宋哲元因这支部队离心倾向强，改编很彻底，支应遴在宋部29军虽然挂一个参谋长，没有兵权，而且缩编很严重由师改团，原来大批干部离开了部队，等于冯也失去了与这支部队的联系。
对于跟随冯玉祥到泰山的部队，冯也遇到了个很棘手的问题，财政危机。手下的军官加部队约2000人，每月的开销维持吃饭就要五六千元以上，原来在山西的时候，部队是现在的三倍，但是宋哲元、张自忠、刘汝明等旧部还指望老长官东山再起，毫不吝啬，负担其军费，积极协助，而且还给汾阳军校编制，让冯不用操心钱财问题。但是察哈尔抗战后，西北军这些旧部都想保住现有利益不想得罪中央军，因此从经济上开始限制老长官冯玉祥搞事情，比如山东的韩复榘，河北的宋哲元这两位实力派西北军将领，每月也就送个几千元钱到泰山给老领导，这根本解决不了军费问题，吃饭都不够，而且手下的官兵还要养家。冯玉祥在 1934 年 4 月 4 日的日记中写道: 「经济压迫最为厉害。经济无办法一切均无办法，此极重极要之事。」冯也知道这些旧部，在经济上压迫他，没办法，冯玉祥只能将其在张家口的房子全卖出去，共卖二万元， 进行维持。同时介绍手下军官到西北军旧部服役，帮助找工作。同时联系韩复榘，收编彭国政团，但是希望保持独立编制，这样就有正式的军饷，韩答应的很干脆，给了第三路军手枪旅第三团的编制，但是要该团从泰安开到济南。结果部队一到济南，就被韩复榘缴械，士兵补入他的部队，军官到军官教育团学习，彭国政及三个营长仍回泰山，陪着冯玉祥，不要冯的死忠分子。
自此冯玉祥最后的武装力量彻底失去。
察哈尔抗战中的失败，让冯玉祥的旧部彻底失去对老长官的期望，冯根本无法号召西北军各实力派齐心对抗中央军。因此西北军的宋哲元和韩复榘两个拥有地盘的实力派更想维护和中央军的关系，而不愿老长官找事情，变相通过经济等手段进行压迫，解除了冯玉祥最后的武装。
而冯在失去最后的武装后，也知道自己的旧部都成了军阀，只考虑自己的利益再也不会听起号召，因此逐步改变自己的思想，从反蒋抗日，变成促蒋抗日最后变成拥蒋抗日。
