1937年10月在平型關的戰鬥結束之後，115師就被分家了，羅榮桓帶著一部份軍隊去了汾河還有晉南，需要在這些地方開辟根據地，而聶榮臻則帶著剩下的人去了五台山。這次分兵對我軍日後的作戰有著非常重要的作用，因為之後山東，晉察冀根據地就被建立了，為之後的戰鬥打下堅實基礎。
當時為115師分家的人是羅榮桓，他是部隊的政治主任，而聶榮臻也非常信任他，知道他是最公平的，而且聶榮臻知道羅榮桓這次的任務是比較繁重的，畢竟要在新的地方開辟根據地，這就需要更多的人手幫忙。
所以他讓羅榮桓先挑，剩下的就留給他自己，而聶榮臻也不會去爭什麽。最後聶榮臻就只留下了3000人，其中包括獨立團一個，騎兵營，還有一些幹部與幾個連。對於人數方面，聶榮臻並不是很在乎，畢竟紅軍最擅長的就是從無到有，不過幹部如果少了發展隊伍就不會這麽容易了。
當時聶榮臻手下也就沒有多少幹部，好在聶榮臻自己也挺看的開，他還經常鼓勵大家，雖然部隊裏的幹部不是很多，可也都是部隊裏的骨幹，只要我們肯幹，部隊是一定能夠發展起來的。可是想要在晉察冀地區建立起根據地，僅憑這3000多人真的夠嗎？然而聶榮臻給出的答案卻是，不行也得行，就是說沒有做不成的事情，也沒有完成不了的任務，這件事他們是一定要成功的。
由於晉察冀的位置比較特殊，屬於兵家爭奪的地方，因為這裏有四條鐵路直通中原內部，所以我軍是一定要在這個地方建立根據地的，不讓敵人占領了這裏，再繼續向國內推進會更加容易。就像聶榮臻所說的，不行也得行，人數不夠也必須要在這個地方建立起根據地，這樣才能夠保證中原完好，敵人不會深入，對中國進行更多的侵占。另外，等到我們的反攻時刻來臨的話，晉察冀就是我軍反攻的前線，所以這裏是非常重要的，根據地也一定要在這裏建成。
而負責駐守在晉察冀軍區的是115師獨立團，也就是楊成武領導的部隊，而他在軍區的貢獻也是非常大的，因為他利用軍事策略很快就將晉察冀附近的地方給收復了，並且為軍區擴大開啟了局面。
沒多久，獨立團就得到了擴充，直接變成了獨立師，下轄著三個團，而獨立師的師長是楊成武，鄧華是政委，1937年11月7日，晉察冀軍區被建立，聶榮臻是軍區的司令，而且在軍區成立後，很多群眾都紛紛來到了軍區，所以軍區很快就被擴充了，然後又建立了四個軍分區。
部隊也在不斷的擴大，然而部隊有了幹部卻沒有多少，這也就成為當時最棘手的問題，聶榮臻也知道這個問題，在其他的軍區也存在，他想著與其找上級解決不如靠自己，然後他就在軍區建立學校，讓115師的幹部當教員，吸引更多的青年才俊進入軍校學習，這也就可以培養出更多的幹部。
經過兩年的培訓，有超過九百多名幹部去往全國各地，有需要他們的地方任職，可以說聶榮臻為黨與國家培養人才上做出了巨大的貢獻。這讓聶榮臻很是自豪，就算是晚年的時候，他在回憶起這件事還依舊很是高興與自豪。
不過也有人奇怪，既然聶榮臻能夠透過培訓培養出來這麽多的幹部，可是從晉察冀出來的兵團也就只有三個，這又是怎麽回事呢？鄭維山對這件事情也是有所了解的，他的話也讓大家知道原因，1939年之前，晉察冀就培養出好多個兵團，只是前線需要，這些兵團都給調到了前線做支援了。正是因為這個原因，晉察冀這才只有三個兵團。
