府兵制最重要的特點是兵農合壹。府兵平時為耕種土地的農民，農隙訓練，戰時從軍打仗。府兵參戰武器和馬匹自備，全國都有負責府兵選拔訓練的折沖府。
府兵制由西魏權臣宇文泰建於大統年間(535～551)，歷北周、隋至唐初期而日趨完備，唐太宗時期達到鼎盛，唐玄宗天寶年間(742～755)停廢，歷時約二百年。
府兵制源起於北魏時期鮮卑人當兵、漢人務農的政策。府兵全家可以免除賦役，當兵成為鮮卑人的專利，漢族從周至兩漢三國傳統的上馬為兵，下馬為農的耕戰三軍制度變為純耕種的農民，這政策明顯地帶有民族隔離的色彩。