日俄戰爭以後，俄國將關東州轉讓給了日本，關東軍隨之進入了東北。
1905年在日俄戰爭中戰敗後，俄國根據《樸次茅斯和約》將“關東州”（中國遼南旅大地區）的租借權和南滿鐵路轉讓給日本。
日本為維護其殖民利益，派遣2個師、4萬人的兵團進駐“關東州”及南滿鐵路附屬地，並設立關東總督府。次年，總督府改為都督府，下設陸軍部，轄1個陸軍師、6個獨立守備營、旅順重炮營和憲兵隊等。
關東軍在東北的罪行：
1931年日本侵占中國東北後，在關東軍成立了代號為“東鄉部隊”的細菌試驗室。1935年至1936年間擴建為“關東軍防禦給水部”和“關東軍獸疫預防部”兩個研制細菌武器的機構。1941年改名為第七三壹部隊和第壹○○部隊。
以後，在中國的華中和華南又組建了代號為“波”字、“榮”字兩支細菌部隊。在審判中被告供認：為了準備並實施細菌戰，他們培養了大量的鼠疫、霍亂等烈性傳染病細菌，研制細菌武器。在研制過程中，慘無人道地用中國人、蘇聯人和戰俘進行實驗，慘遭殺害的不下3000人。
並於1939年在哈拉哈河地區對蘇蒙軍隊作戰期間，1940年、1941年在中國寧波、常德等地，使用了細菌武器。上述罪行嚴重違反了1925年《日內瓦議定書》關於禁止使用細菌武器的國際公約。根據被告犯罪事實，法庭判處山田乙三有期徒刑25年，對其余11名戰犯分別判處有期徒刑2～25年。