1937年七·七蘆溝橋事變，日寇入侵華北，抗日戰爭開始。8月157師奉命派出壹個旅進駐廈門，黃兼任廈門警備司令。為防止日寇登陸，黃下令在沿海修築了堅固的防禦工事，加緊訓練了禾山民兵。9月***產黨閩西南軍政委按照黨中央指示，派出鄧子恢與黃談判，達成了軍事上合作抗日的協議，從而接受了抗日民族統壹戰線的主張。1938年春157師移防潮州，師部駐防揭陽湯坑壹帶；“471”旅駐防潮安、澄海、潮陽壹帶；“469”旅駐防普寧、海陸豐壹帶。是年6月日寇海軍陸戰隊侵入南澳島，守軍地方保安營營長羅靜濤怯敵不戰而逃，黃在組織軍事法庭對羅審判槍決後，召開了軍事會議，決定了以第九區自衛團第四大隊洪之政部為先鋒，“940”團第壹營為主力，合稱“義勇軍”收復南澳島。7月派出師參謀長李宏達和“940”團團長李友莊率第壹營進駐海山，部署收復南澳島的戰鬥。營長吳耀波率義勇軍戰士五百多人渡海，壹舉克復南澳縣城隆澳，打響了廣東抗日第壹仗。義勇軍在南澳浴血奮戰二十多天，殲敵五百余人，挫敗了敵寇的囂張氣熖，推遲了日寇進犯潮汕大陸的計劃。10月157師奉命開往紫金，原擬策應惠州守軍（151師）作戰，因151師不戰而潰，15日失惠州，21日廣州淪陷。157師遂奉命由連平經新豐抵佛崗駐防，轉戰粵北。1939年11月黃升任國民黨62軍中將軍長，其時正值廣州之日寇傾巢北犯，集結三個師團兵力和海軍陸戰隊阪田旅團，分左右兩翼包抄企圖奪取曲江。我方參戰的是廣東12集團軍所轄的62軍、63軍、65軍。62軍主力負責截擊良口、牛背脊之敵，將進犯的敵寇兵團攔腰截斷。在民族義憤的激勵下，全體官兵敵愾同仇，在當地民眾配合下浴血奮戰，終於在良口、牛背脊將敵寇攔腰截斷，在我方猛烈的攻擊下，敵人戰線崩潰，傷亡慘重，屍橫遍野，最後倉惶逃竄，這是粵北第壹次大捷。其後62軍曾先後防戌佛崗、英德、仁化等地。1942年適逢旱災，軍部組織各部隊搞飼養、種植、開掘魚塘，在英德開辟了壹墾荒農場——大鎮農場。1944年6月奉命入湘，62軍與79軍、74軍負責衡陽外圍戰鬥，62軍向衡陽西站突進，到達西站後受到敵寇圍攻阻擊，在馬鞍山、鐵關鋪壹帶與敵展開了猛烈的戰鬥，連續奮戰四十多天，因糧餉彈藥接濟不上，傷亡重大，後因方先覺部在衡陽城內投降，62軍遂向湘桂鐵路以北山區轉進，取道龍盛、義寧，於10月到達郴州進駐田陽。在62軍軍部駐田陽期間，偽中央為監視黃遂以增撥兵力為名，派95師並入該軍（95師師長段澐是軍統特務），這是蔣介石為分化控制62軍而插入的棋子。
1945年7月黃奉命赴重慶參加偽將官第三期受訓。開學僅十余天，日寇宣布無條件投降，在校學員紛紛返防。陳儀（陸大教育長，後為臺灣省省長）派出王俊生找黃，征求“將62軍開往東北”的意見。黃表示：“62軍是廣東部隊，往東北壹切都不習慣。抗戰八年！結束後我什麽都想不幹了。”後來，偽中央決定把62軍調臺南高雄。其時，該軍正奉命進駐越南河內、海防，黃即趕回海防接受日寇投降。當時越南民主***和國尚未獨立，以胡誌明為首的反法民族武裝力量在海防設有辦事處，黃密令駐後海（離鴻基煤礦不遠）的“453”團，將日寇投降繳獲的彈藥倉庫，由越南民族武裝部隊去搬取，事後謊報失火，秘密縱火焚毀了該倉庫。為此胡誌明主席曾贈送黃兩個銀碗作為紀念（51年家鄉土改時遺失）。同年11月底62軍奉命由海防塗山乘美國第七艦隊兵艦開往臺灣，在高雄左營登陸、軍部進駐臺南，所屬151師駐高雄；157師駐臺中；95師駐嘉義，均負責接收工作。