民國時期逐漸形成馬山、吉祥村，隸屬穆棱縣第四區。東北淪陷後，初步建立馬山家和吉祥家，隸屬奎山堡。
民國二十七年(1938)十月，轉奎山村。
民國二十八年(1939)六月，與奎山等村壹起劃歸林口縣管轄。
民國三十六年(1947)四月，林口縣設立馬山區。
1956年，分鄉，設馬山鄉。
1957 1月，劃歸雞西市管轄，設立馬山區。