元朝滅亡後，壹部分蒙古貴族退到蒙古草原及東北等地，經過明太祖朱元璋多次的派兵攻打，至成祖永樂初，蒙古分裂為韃靼、瓦剌、兀良哈三大部。不僅它們之間不斷地發生戰爭，而且韃靼內部也互相爭權奪利。永樂三年（1405），知院阿魯臺殺可汗鬼力赤而奉迎元皇室後裔本雅失裏為可汗。永樂七年六月，成祖因派遣去韃靼的明朝使臣被殺，大怒。於七月任命丘福為大將軍，率領精銳騎兵十萬征討韃靼，丘福由於孤軍深入招致全軍覆沒。永樂八年，成祖率領五十萬大軍親征，結果韃靼大敗，君臣潰散。迫使阿魯臺在這年冬天向明朝貢馬臣服，而可汗本雅失裏也於永樂十年被瓦剌部的馬哈木所殺。永樂十壹年，成祖封阿魯臺為和寧王，統率韃靼部，受明朝管轄。十九年，韃靼部勢力逐漸增強，便產生了叛亂之心。於是成祖在永樂二十年（1422）、二十壹年、二十二年三次親率大軍出征，給予韃靼部以沈重的打擊。
成祖朱棣在即位後，曾經派遣使者告諭瓦剌部。永樂六年，瓦剌部的馬哈木向明朝廷貢馬請封。永樂七年，成祖封瓦剌部的三個首領馬哈木、太平、把禿孛羅分別為順寧王、賢義王、安樂王。永樂十年，馬哈木攻殺韃靼部的本雅失裏，要挾並扣押明朝使臣，南下騷擾。十二年（1414），成祖率軍親征，重創瓦剌部。此後，瓦剌就壹直受明朝管轄。
兀良哈部原是元朝大寧路（今遼寧沈陽以西）的北境，明朝建立後，把錦州（今遼寧錦州）、義州（今遼寧義縣）、劍州（今遼寧朝陽西）、利州（今遼寧喀喇沁左翼）等各州劃歸遼東都司管轄，並在大寧地區設北平行都司及二十多個衛、所。太祖洪武十四年（1381），朱元璋把第十七個兒子朱權封在大寧為寧王。洪武二十年，太祖派馮勝、藍玉等率兵平定金山（今內蒙古通遼東境）的納哈出，就在兀良哈地方安置納哈出的部眾。洪武二十二年，又設置朵顏（今內蒙古綽爾河流域）、泰寧（今吉林洮兒河流域）、福余（今黑龍江嫩江下遊壹帶）三衛。
“靖難之役”時，三衛兀良哈騎兵隨從成祖作戰有功，成祖就把大寧地區封賞給他們，仍為三衛，並授予兀良哈部的各個首領為官而分別掌管。
自永樂八年（1410）至二十二年（1424），成祖五次親征，沈重打擊了蒙古貴族的割據勢力，進壹步加強了對這壹地區的管理，使蒙古三大部最終都臣服於明朝。