山西省呈東北斜向西南的平行四邊形，是典型的黃土覆蓋的山地高原，東北地勢高，西南地勢低。高原內部起伏，山谷縱橫。地貌為山地、丘陵、梯田、平原，山地面積占總面積的80.1%。山西省橫跨黃河和海河，河流屬於自產流出水系。山西省地處中緯度帶腹地，屬於溫帶大陸性季風氣候。
山西省自古就有人類活動的跡象，是中華文明的發源地之壹。
考古表明，在古代，山西南部是人類的發源地。運城垣曲縣“世紀蜀猿”化石的發現，將猿的出現時間提前了654.38+00萬年。大約654.38+0.8萬年前的舊石器時代，原始人在山西晉南繁衍生息。其中，運城芮城縣西侯渡文化遺址發現的燒骨，將我國發現的人類用火歷史向前推進了654.38+0萬年。距今約10-20000年，舊石器時代中期，在山西汾河兩岸和大同、朔州壹帶，有相對集中的原始人和村落。在新石器時代晚期，山西南部已經成為當時許多國家的中心。臨汾襄汾縣陶寺遺址的發現和研究結果表明，這裏是堯帝的都城，也是中國最早所處的地區。這使得姚舜禹這個中國史前傳說在大約4500年前從傳說變成了信仰，中華文明5000年的歷史得到了確認。