遠征軍第一次入緬作戰失敗後，盟軍失去了至關最重要的滇緬公路及怒江西岸，還包括騰沖及松山、龍陵等戰略要地。為了一雪前恥，已逃至印度的戰區參謀長史迪威開始著手制定了反攻緬甸的作戰計劃，並說服了美國政府大力幫助蔣介石訓練和裝備部隊。
蔣介石雖然同意了史迪威制定的作戰計劃，但也提出了自己的條件，一是美國不能派人擔任遠征軍指揮官；二是反攻緬甸應同時出動中英美三國軍隊，采取南北水陸兩路夾擊策略；三是為避免重蹈覆轍，反攻的關鍵點在於英國能否取得孟加拉灣的制空權和制海權，同時進行仰光登陸。
但是，盟軍東南亞戰區司令韋維爾（英國人）對史迪威提出的作戰計劃和蔣介石提出的條件並不感興趣，主要是英國人根本不願蔣介石過多的插手印度和緬甸方面事務。無奈之下，史迪威只好向馬歇爾求援，馬歇爾經過與英軍進行多次交談後，韋維爾才勉強答應了史迪威的反攻計劃和蔣介石提出的條件。最終盟軍將反攻緬甸的時間定在了1943年7月份以前，並計劃1944年1月攻克緬甸首府仰光，同時制定了滇西遠征軍的作戰，即強渡怒江，分別取騰沖、龍陵後，奪取臘戍、八莫及密支那，與駐印軍會師。
1944年春，為了策應駐印軍發起的緬北攻勢，遠征軍司令衛立煌下令霍揆彰第20集團軍率先強渡過怒江，劍指騰沖。1942年5月，遠征軍敗退後，日軍不費吹灰之力就占領了騰沖，也滇西的戰略重鎮，日軍占領後進可越過怒江竄擾昆明，退可直達緬北中心密支那，而日軍也把密支那作為了後方基地，並把滇緬戰區總司令部設於騰沖，此時駐守在騰沖的就是日軍緬甸方面第15軍第56師團部。
遠征軍第20集團轄下的71軍在陳明仁的率領下，作為先鋒隊強渡了怒江，順利攻占了日軍渡口陣地，下一步作戰目標就是日軍重兵把守的通往騰沖的唯一道路——高黎隘口，為了減少傷亡，陳明仁決定以少量部隊牽制正面的日軍，主力部隊翻越深山老林，繞過隘口切斷敵守軍的退路，並且在這兩地之間構築工事切斷隘口與騰沖間的聯系。
而此時的第20集團軍第53、54軍及71軍36師等部在各個渡口成功渡江與陳明仁部會合後，遭到了五千余人日軍的瘋狂反補，但最終一一被擊退，而敗退下來的日軍與騰沖守軍合編為了一個三千余人混的合編隊，由148聯隊長藏重康美大佐統一指揮，死守來鳳山及騰沖城。至此，遠征軍已經掃清了騰沖城下的障礙，於1944年5月底霍揆彰第20集團軍已經對騰沖城形成了包圍之勢。
與此同時，駐印遠征軍已經在密支那發起了攻勢，蔣介石判斷日軍緬甸方面軍第15已經無力支援滇西，為迅速打通中印公裏，命令衛立煌立即進攻騰沖和龍陵，以擴大滇西戰果。為此，衛立煌命令宋希濂第11集團軍為左翼進攻龍陵及芒市，霍揆彰第20集團為右翼，率領第53、54軍和第2師及第36師進攻騰沖，慘烈的騰沖戰役正式爆發了。
日軍第56師團自1942年5月占領騰沖後，經過兩年的經營已經構建了完整的永久性工事，騰沖城是明朝修建的一座石頭城，城墻高約八米，相當於現在的兩層多的樓，最厚的高達六米，四周長約四公裏，都是用當地的火山石修建的，不但表明光滑，而且堅固異常，這也是作為進攻一方犧牲重大的原因之一。而困獸之鬥的日軍把其當成了續命的當盾牌，而且有來鳳山作為天然屏障，第20集團軍要攻入騰沖，必先拿下來鳳山。
因此，霍揆彰下令陳明仁率領第二師務必拿下來鳳山，為攻城創造條件，在美軍空軍的火力之下陳明仁一舉拿下了來鳳山，整個騰沖城完全暴露在了第20集團軍面前。霍揆彰重新調整了作戰部署，即以第54軍和周福成的第53軍（東北軍）116師擔任主攻任務，由騰沖城東門至西門連成一線，線上屬於第53軍部，同時以53軍第130師部擔任阻援防逃任務，陳明仁的第2師作為了總預備隊。
騰沖攻堅戰打響後，由於守城的日軍的居高臨下，並築有地上和地下相配合的堡壘工事，雖然遠征軍無論在兵力還是火力都有絕對的優勢，但處於仰攻之勢的遠征軍作戰非常的艱苦，火力很難發揮出優勢。昆侖關戰役時，國軍機械化部隊第五軍仰攻日軍第21旅團五千余人時，戰損接近五比一，打得相當慘烈，遠征軍這次圍攻堅不可摧地騰沖城，難免會付出慘痛的代價。53軍攻城時甚至還使用了最古老的攻城戰術，即搭雲梯、搭人梯等，這也是遠征軍犧牲重大的原因之一，116師久攻不下、傷亡慘重，軍長周福成調來了擔任警備任務第130師增援，但也無濟於事，最後不得不下令停止進攻。
正當戰爭正進入膠著之際，於1944年8月4日，騰沖城墻突然被美軍空軍撕開了一個個缺口，城東的遠征軍第53軍兩個是蜂擁湧進了騰沖城。而為了堵住缺口，日軍開始全力猛撲，雙方開展了慘烈的肉搏戰，第116師一工兵副營長範莆紅就倒下了缺口處。隨著城北的第54軍和預備隊第二師攻入騰沖城後，日軍已經守不住開始四處潰散、各自為戰，雙方開始進行殘酷的巷戰，不幸的是第二師第五團團長李頤進城後中了日軍的冷槍陣亡了。
由於遠征軍對騰沖城內情況的不熟悉，而且日軍經營兩年後已經構建了錯綜復雜的房屋工事，遠征軍第20集團軍只能進行地毯式清除，進展難度不亞於美軍的硫磺島戰役，與日軍進行一房一屋的爭奪戰，可謂寸土寸血，這也是遠征軍傷亡慘重的主要原因之一。經過四十天的殘酷巷戰後，在日軍已經完全斷了補給線的情況下，遠征軍第20集團軍全殲騰沖守城日軍三千余人，但也付出了九千余人的沈重代價。
