1937年10月在平型关的战斗结束之后，115师就被分家了，罗荣桓带着一部分军队去了汾河还有晋南，需要在这些地方开辟根据地，而聂荣臻则带着剩下的人去了五台山。这次分兵对我军日后的作战有着非常重要的作用，因为之后山东，晋察冀根据地就被建立了，为之后的战斗打下坚实基础。
当时为115师分家的人是罗荣桓，他是部队的政治主任，而聂荣臻也非常信任他，知道他是最公平的，而且聂荣臻知道罗荣桓这次的任务是比较繁重的，毕竟要在新的地方开辟根据地，这就需要更多的人手帮忙。
所以他让罗荣桓先挑，剩下的就留给他自己，而聂荣臻也不会去争什么。最后聂荣臻就只留下了3000人，其中包括独立团一个，骑兵营，还有一些干部与几个连。对于人数方面，聂荣臻并不是很在乎，毕竟红军最擅长的就是从无到有，不过干部如果少了发展队伍就不会这么容易了。
当时聂荣臻手下也就没有多少干部，好在聂荣臻自己也挺看的开，他还经常鼓励大家，虽然部队里的干部不是很多，可也都是部队里的骨干，只要我们肯干，部队是一定能够发展起来的。可是想要在晋察冀地区建立起根据地，仅凭这3000多人真的够吗？然而聂荣臻给出的答案却是，不行也得行，就是说没有做不成的事情，也没有完成不了的任务，这件事他们是一定要成功的。
由于晋察冀的位置比较特殊，属于兵家争夺的地方，因为这里有四条铁路直通中原内部，所以我军是一定要在这个地方建立根据地的，不让敌人占领了这里，再继续向国内推进会更加容易。就像聂荣臻所说的，不行也得行，人数不够也必须要在这个地方建立起根据地，这样才能够保证中原完好，敌人不会深入，对中国进行更多的侵占。另外，等到我们的反攻时刻来临的话，晋察冀就是我军反攻的前线，所以这里是非常重要的，根据地也一定要在这里建成。
而负责驻守在晋察冀军区的是115师独立团，也就是杨成武领导的部队，而他在军区的贡献也是非常大的，因为他利用军事策略很快就将晋察冀附近的地方给收复了，并且为军区扩大打开了局面。
没多久，独立团就得到了扩充，直接变成了独立师，下辖着三个团，而独立师的师长是杨成武，邓华是政委，1937年11月7日，晋察冀军区被建立，聂荣臻是军区的司令，而且在军区成立后，很多群众都纷纷来到了军区，所以军区很快就被扩充了，然后又建立了四个军分区。
部队也在不断的扩大，然而部队有了干部却没有多少，这也就成为当时最棘手的问题，聂荣臻也知道这个问题，在其他的军区也存在，他想着与其找上级解决不如靠自己，然后他就在军区建立学校，让115师的干部当教员，吸引更多的青年才俊进入军校学习，这也就可以培养出更多的干部。
经过两年的培训，有超过九百多名干部去往全国各地，有需要他们的地方任职，可以说聂荣臻为党与国家培养人才上做出了巨大的贡献。这让聂荣臻很是自豪，就算是晚年的时候，他在回忆起这件事还依旧很是高兴与自豪。
不过也有人奇怪，既然聂荣臻能够通过培训培养出来这么多的干部，可是从晋察冀出来的兵团也就只有三个，这又是怎么回事呢？郑维山对这件事情也是有所了解的，他的话也让大家知道原因，1939年之前，晋察冀就培养出好多个兵团，只是前线需要，这些兵团都给调到了前线做支援了。正是因为这个原因，晋察冀这才只有三个兵团。
