在我國歷史上，匈奴、突厥、回紇、鮮卑、契丹、女真、蒙古等少數民族都曾在雁門關長城沿線與中原守軍作戰。
隨著明朝與蒙古貴族的對立，雁門關的軍事地位越來越重要。明洪武初年，吉安侯祿祥從雁門關舊址北移數裏，建新址。此後，景泰、嘉靖、萬歷等年間，又有多次修繕。關城長1公裏，城墻高約7米，石座磚體，三重門。東門正面的石碑上刻著“天險”，門上有雁樓，邊上有李母廟。西門鐫刻“地理位置”，右邊建關帝廟。西門外有壹座南北向的小北門，前門的石碑上刻著“雁門關”三個大字。左右鑲磚上鐫刻著壹副對聯:“三關必無雙，九塞尊首關。”關城的左右側墻和烽火臺巍然屹立在山頂。