两个师转入第二线阵地后，为了执行上级「正面要坚持七天」的战斗任务，莫树杰军长想到了一个好办法：夜袭。近战、夜战是中国军队的长处，尤其是在占据天时地利的情况下，如果能够趁夜色将白天失去的阵地夺回来，那或许还可拖延几天。于是，莫军长果断下令第174师、189师组织突击队，准备夜袭，企图收复大竹山、滚山等重要据点。
理想很丰满，现实却很骨感。让莫树杰估计失误的是。日军虽不善夜战，但是有比桂军好得多的武器，攻击和防御力量都相当强；而且他们占领阵地后，又将阵地工事改造，反过来为他们所利用，来赚取中国人的鲜血。
是夜，第84军夜袭队接近据点时，四周异乎寻常地安静，只听到一些虫鸣鸟叫。但日军没有玩空城计，而是实实在在地安排了兵力，据点一律进行了严密的军事管制，远远就能看到一队队日本军人在巡逻放哨。和中国军队打交道多了，日本人似乎更多了一些拼命三郎的劲头，即使是在白天取得胜利的情况下也没有丝毫放松警惕。带头的夜袭队长试探性地扔了个树枝过去，日军的封锁火力十分稠密地向声源处扫射，加上探照灯和照明弹照得阵地前如同白昼，不用说，是早有准备，而且是充分准备。夜袭队终于无法突进，几个人相望无言，摇摇头，只好趁夜黑退了回来。
第三日天亮后，日军一如前一天的老打法，向第二线发起进攻，但第84军的战斗情况却与昨日大不相同了。与第一线阵地不同，第二线阵地尚未来得及修筑工事，只有一些散兵坑，既无战壕进行掩蔽，更无交通沟可以运动。更加上古语云的「一鼓作气，再而衰，三而竭」，官兵的战斗意志与之前已是无法相提并论了，更为严重的是恐慌心理，因为装备技术上的差距，中国军队没有空中掩护，在三维空间的战场上已经构成了心理防御的空虚。在前几次的战斗中，日军的飞机狂轰滥炸、气球准确指引打击目标，在战士们心中形成了梦魇般的阴影，挥之不去，再战时，官兵一看到日军的飞机从头顶飞过，日军的大气球升上半空，就好似敌入已站在自己头顶上一样，抵抗信心已经动摇。结果，日军一进攻，部队被迫步步后退。
刚进中午，第189师的一线部队退到了师部所在地杜家垮附近。杜家垮也已受敌炮轰击，接着，日军的机关枪也扫射到大门口了，并且左翼敌军已飞驰向高城，几乎要截断第189师的后路。
凌压西赶紧叫来通信兵：「快，给莫树杰军长打电话，请示转进路线和而后集结地点。」
「报告师座，电话接不通。
「那给174师打电话，还有前线的部队，看有没有什么指示。」凌压西有些慌了神。
只好命令接近师部的第565团为后卫，率领师部向军部所在地夏家垮撤退，然后随军部后沿桐柏山南侧经刘家河、吴山店、鹿头镇、太平镇向枣阳转进。余部第566、567团和补充团则与第174师，沿襄花路经净明铺、唐县镇、唐王店、随阳店至枣阳集中。
中国军队左右两翼的部队几乎遭遇了和中央集团军同样的境地。
和日军第3师团山胁正隆遭遇的第33军和第68军主力此刻已撤至唐河的西岸，借助之前残破的河防稍稍喘息，之后和汤恩伯的总预备队取得了联系。汤部已接命令要与左翼军团一起侧击敌军，故而自原驻防地匆匆拔营，力图赶在日军进抵枣阳之前击敌于半途。
此时的桐柏县城里，第30师的师长张华棠正在收拢部队，经过前番的较量，他所驻防的阵地已被敌人攻占，他率部退回城里，想要据城死守。看着头上、胳膊上绑着绷带的伤兵，有些还都是十几岁的孩子，沾满烟尘的脸上有倦容却没有半点惧意。他本想在城头讲几句话鼓舞一下士气，动员大家奋勇杀敌，可看此情景就再也不忍心说下去了。
是啊，日军随时可能追过来，如此醒目的城镇，必成日军飞机的轰炸重点，中国军队没有像样的防空武器，都是靠一些重机枪和高射炮在碰运气，偶尔能击落一架飞机，可日军的炮弹一发打过来，都是死伤一片。加上现在的阵地已失守，张师长已经没有了据城死守的本钱。蓦地，他想起在一次中层以上军官会议上讲的战略战术，当阵地已失，我军的武器装备又不如敌人的时候，可由阵地战转为运动战，在运动中歼敌，他也想起了副参谋长白崇禧讲的「积小胜为大胜，以空间换时间」。眼下的城镇正是可以用来打巷战的好地方，南方的建筑，可掩蔽的地方多，敌人的坦克和战车又开不进来，我们可以找一些当地的老百姓帮助我们设计一些埋伏点，再设一些机关，不愁打不出个漂亮的伏击战。
5月6日，第3师团的辎重兵第3联队浩浩荡荡地开进桐柏县城，骑兵第3联队的一部和石本支队的一个步兵大队同行并起保护作用。行至一处巷口，发现家家户户门窗紧闭，想是民众都已逃散，却又见一些居民房内隐隐飘出烟火。领头的军官一下警觉，一个果断的手势让部队停下。
但为时已晚，早已埋伏在两旁的30师官兵借助窗户、墙角等临时攻击点展开猛烈攻势，无数条火舌从四面八方射来，织成了密密的火力网。「嘭！」一声，日军运粮的大卡车爆炸起火，翻倒在一边，日军正手忙脚乱准备找地方掩护，寻机反击时，又见窗口扔出无数的燃烧瓶，官兵们用可以找到的瓶瓶罐罐自制了可燃烧、爆炸的土地雷、土炸弹、发烟弹，一时，战马受不了烟熏，嘶鸣着乱奔乱踢，将马上的军官重重摔在地上，然后不知向何处跑去。日军情知中伏，连忙收拢部队，相互掩护着向开阔地跑去，丢下一些找不着北的士兵和带不走的辎重。
第2营的宋营长正打在兴头上，猛地发现手边的手榴弹箱子不知什么时候已经空了，加之日军主力已退，不知何时会重整兵力杀将过来，自己这点人手根本不是对手，念在突袭已将敌心搞乱，也算完成了初步作战计划，于是恨恨地一挥手。「都不让老子打痛快了！告诉兄弟们，准备撤！」
尽管打了几个小规模的解气仗，可6日晚，在桐柏县城的一处破庙里，张华棠师长清点了所剩的人员和装备物资，还是觉得一阵凄凉，经过几日的奋战，加上被日军空袭的损耗，全师已只剩下200多人，还有七八十条没子弹的枪。连以上的军官只剩下4个是战初任命的，其余都是替补上阵的，匆匆的几日战斗，已经任命了2个团长、7个营长，连以下不计其数。
「师座，据情报反映，今天来的是鬼子的先头部队，还有那运粮的车，估计最迟明天，大部队就该开进来了，桐柏也是必经之地。您看······」
不等参谋说完，张师长闭上眼挥了挥手：「我们撤吧，留得青山在，不怕没柴烧。」
7日，日军攻陷桐柏县城，张华棠率部撤向襄河方向，另一路日军又攻陷唐河县城，并向枣阳进发。
田中静一的第13师团自击溃了第33集团军在长寿店的布防，也没敢急进，因为根据情报，沿襄河一线以及大洪山中有国民党军的重兵把守，张自忠亲自坐镇。一方面，他很想面对面会会这个支那将军，另一方面他对地形不熟，不敢贸然进攻。开战之初，园部和一郎曾经跟他说过，支那军没有什么了不起，除了他们的中央军嫡系部队装备稍好一些，战斗力还行，其他的地方部队都是些散兵游勇，有些还是一手拿枪，一首抽大烟的「双枪兵」，体力非常地弱，所以，他打心眼里是瞧不起这支军队的，他告诉自己，临沂被围只是偶然的失误，只要杀了这些支那军人就可以一雪前耻了。
被日军俘虏的国军士兵
不过，现在还不是找这个支那军官决斗的时候，根据战役部署，他必须尽快与另外两线的部队会合，以实现对枣阳的合围，长寿店阵地已经消耗了一天的时间，再不抓紧时间，可能形不成包围圈，反而让支那军溜了出去。于是田中在召集高参们详细参研了地图之后，决定尽可能避开封锁坚固的阵地，选择无重兵把守的地段前进穿插，同时，尽可能不打无准备、无必要的仗。
第33集团军的主力在襄河以西，第29集团军的部队主力在大洪山附近，中间的长寿店、张家集、双沟一线虽设立了防御工事，却没有一支能打硬仗的队伍，而且战区司令长官部也下令不要死守一城一池，以歼灭敌有生力量为主，所以，在敌猛烈火炮攻击之下，沿途守军在抵抗之后纷纷撤出战场，向枣阳地区集结。至8日，日军先后攻占田家集、丰乐、张家集、双沟、新野。
正当三路日军分别解决了当面之抵抗力量，以快速机动向枣阳附近围攻的时候，布置在三路大军周围的总预备队和机动兵团开始发挥作用了。第31、第2集团军和李仙洲的第92军分路自洪河地区、南阳、确山等地向日军侧击、尾追，日军快速行军，仅留少量部队看守城镇，巩固防线阵地，此时被突如其来的兵力攻击，一时慌了手脚。汤恩伯部自参战以来一直在扮演着机而不动的「预备队」角色，尽管军部的电话天天响个不停，左翼军团的部队时时向他发出求救信号，他却能「任凭风乍起，稳坐钓鱼台」。他在等，等一个既不费力，又能迅速建功的机会，就是当敌人的锋芒扫过他的势力范围，他再从侧背进攻的机会。长期担任机动兵团的司令，汤恩伯对这类战术有着非常深刻的了解，他不会因为救某支孤军而置自己的军队于险地，否则，他的部队不会征战多年仍没有太大缺编。
关键就在于他能把握出击的时间。果然，机动兵团一出手，就连连克复了几个关口，从日军手中夺回了几个阵地，8日收复唐河，9日收复新野，成果非常显著，也正是因为如此，日本人对汤恩伯部队的战斗力一直是非常忌惮的，总觉得他们是蒋介石的嫡系部队，装备一流，又有很多的战果作光环，1937年先战南口、再战淞沪，1938年又战徐州，与日作战屡屡得手，汤之主力第31军号称常胜军。据说当初日军刚进攻的时候听说汤恩伯的主力已到泌阳以北，园部就感到有些头疼，于是他发出一份十万火急电报给山胁正隆，通报了汤军南下准备击第3师团侧翼的情况，又把石本旅团拨归山胁指挥，要求山胁相机西进。山胁一接这份电报，比园部还要谨慎，当即令主力原地构筑工事，准备和汤军打一场阵地战。谁知南下的汤恩伯兵团只对第3师团放了几枪，就不见踪影了。
山胁在泌阳小心翼翼呆了3天，见没什么威胁，才于5月7日晨下令继续西进。不过话又说回来，汤恩伯的军队确实是收复了先前失去的阵地，使我军的实际控制线大大推进了。
此时，第29集团军王缵绪部也向敌之侧背猛击，第41军孙震的部队从双沟附近主动出击，以运动战奋勇堵击日军北进。
然而，机动兵团和总预备队的侧击、追击只是在敌军经过的途中进行了短暂的突击，相机收复了一部分阵地和城池，并没有抓到敌人的主力和消灭日军的主要攻击力量。至5月9日，三路日军按照之前的战斗计划已经相继占领了泌阳、唐河、桐柏、高城、随阳店、张家集和双沟等城镇，沿途又构筑了一些新的军事据点，分兵把守，构成了对枣阳的合围之势，曾经驻扎了十几万国民党军队的军事重镇枣阳已是乌云压城城欲摧，但中国军队已经大部不在城中了。
