1940年9月，八路軍第129師在百團大戰第一階段作戰勝利的基礎上，為摧毀日軍第4旅團伸入根據地的據點，決定攻擊榆社縣城殲滅守城之敵。
周希漢將軍
榆社是日軍突入根據地的最前沿據點，構築有堅固的工事和碉堡，糧食彈藥充足。戰前129師三八六旅參謀長周希漢帶領偵查人員偽裝成村民在榆社城外進行了抵近偵察。
經過偵察，他發現榆社縣城西門比較大，城內房屋距離城墻較近，便於部隊隱蔽和接敵。
9月23日深夜，三八六旅主力對榆社城展開攻擊，周希漢便選擇西門作為突破口，但當戰士們接近西門時，城內的狗突然發出一陣狂叫驚醒了守城日軍，經過激烈戰鬥，突擊部隊僅僅占領了西門靠近城墻的幾排房屋，可以說首次攻擊不是很順利。
周希漢親自到前沿，在對日軍的明暗火力點和碉堡情況進行仔細觀察後，重新組織了進攻，但日軍的火力非常猛烈，八路軍戰士傷亡慘重。就在這時，他命令山炮將曲射改為直射，炮口直接瞄準城門樓上的火力點。
第二次強攻，由於炮兵打掉了日軍的重火力點，八路軍戰士得以奮勇沖擊，日軍被炮火壓制得無法還手，最終八路軍奪得西門。
此時雖然奪得西門，但日軍在城中心構築了大小八個碉堡，形成了可以互相支援的交叉火力網，四周還有高達十多米、上面布有鐵絲網的圍墻，這才是日軍的核心陣地。
陳賡
正當周希漢與部下研究如何攻破日軍核心陣地之時，386旅旅長陳賡來到他們身旁。進門就說：「二十五團和三十八團已經拿下了沿壁和王景，三十八團小兄弟了不起呀，打死了六十多個鬼子，還抓了四個活的，打得非常漂亮。」
陳賡提到的這兩個團都是不久前新擴編的部隊，大多數是沒有作戰經驗的新兵。在陳賡的親自指揮下，這兩個團也的確都打得不錯。
當然陳賡當眾表揚二十五團和三十八團，絕對不是為了表功，而是另有用意，那他有什麽用意呢？
此時陳賡繼續說：「向老部隊學習，可是一直掛在人家嘴上，你們攻不下榆社可不好交差呀，要不讓二十五團和三十八團來支援你們？」
原來陳賡使用的是激將法。身為旅參謀長的周希漢及在場的團長、團政委馬上異口同聲：「讓二十五團和三十八團來幫忙，我們這臉往哪兒擱呀？我們一定能攻下榆社！」
陳賡得意的順勢說道：「好，那就看你們的嘍！」
第三次強攻與第二次基本相似，仍是用火力進行點對點的打擊，讓守敵無法擡頭。這時突擊隊員趁機用鉗子剪斷鐵絲網，再用雲梯登上了圍墻。
日軍在碉堡群失守後，剩余殘敵退至榆社縣城的一所學校，依托一座高大碉堡和圍墻繼續頑抗，並大量向外施放毒氣。
榆社城內頓時到處充滿毒氣，很多官兵包括現場指揮的陳賡在內都中了毒，一個個感到頭暈眼花，還咳嗽、流淚、淌鼻涕，非常難受。
周希漢只得下令暫停攻擊，讓戰士們用濕毛巾捂住口鼻。為了陳賡的安全，他勸陳賡到後方指揮所去，但遭到了陳賡的拒絕：「不行，我要看到你們打下榆社再走！」
考慮日軍火力集中，工事堅固，若繼續從正面強攻，傷亡必大，可側面又無法迂回。就在大家都在發愁的時候，一名團長一語驚人：「地面不行，我們就地下。」
一句話把周希漢給點醒了，他決定將地面強攻改為地下坑道進攻，就像師長劉伯承說的那樣，我們不啃核桃，而是要砸核桃。
戰士們挖了近一個晝夜，終於將坑道挖到了日軍的核心陣地內。
然後迅速安放炸藥，當炸藥包被引爆時，仿佛發生了強烈地震一般，隨著日軍的碉堡崩塌，戰士們在煙霧的隱蔽下以迅雷不及掩耳之勢沖入陣地，全殲了日軍守敵。
隨著榆社戰鬥的結束，榆遼公路上的日軍據點全部被八路軍拔除。
經過連續四十多天的緊張戰鬥，八路軍各主力部隊都相當疲勞，傷亡也很大。僅榆社一戰，七七二團就有十二名副排長以上的幹部犧牲，這些幹部全都是三過草地的老紅軍，而七七二團的班長到別的部隊都可以直接作為連排長使用。
10月2日，彭德懷發出命令，結束第二階段作戰。這時他仍打算在對主力部隊進行整理和補充後，在華北冬季結冰之前再發起一次大破襲。
榆社戰鬥八路軍386旅經過三天戰鬥，在全殲日軍的同時，繳獲山炮3門、平射炮4門、迫擊炮5門，輕重機槍10余挺、擲彈筒20余個、步槍200余支，讓原本缺少重武器的386旅一下子變的富裕起來。
不過在攻打榆社的戰鬥中，八路軍也付出了傷亡200余人、中毒200余人的代價。負責主攻榆社縣城的16團2營營長陳道山、副營長白玉科，3營營長範士權也壯烈犧牲，其中8連在戰鬥結束後僅剩下18人。
