武士產生於平安時代。從9世紀中期開始，壹些地方領主開始建立私人武裝來自衛，並利用他們不斷擴大的權力。這種武裝力量逐漸成熟為制度化的職業軍事組織，以氏族和主從關系為基礎。到了十世紀，朝廷無力鎮壓地方勢力的叛亂，只好依靠各地武士的力量，武士也進壹步得到中央政府的認可，成為日本的特權統治階級。
日本的鐮倉幕府是日本武士道的發源地，但並沒有成型，而是在江戶時代吸收儒家思想最終形成的。鐮倉幕府武士道建立之初，以忠、信、誠、武、譽為主要理念。但武士道作為封建幕府時代政治的產物，根本無法吸收儒釋道的真諦，而是日本民族固有的神道，彌補了儒釋道無法滿足武士道的壹些缺點。