刀裝配件包括鞘、小柄、笄、緣、頭、目貫、鐔等。
其中以鐔（つば，Tsuba）為主要配件，鐔相當於壹般的劍格或護手，其作用是:
出刀與收刀的開關。
格鬥時保護手掌與手腕。
顯示社會地位尊榮，高貴的象征。
安土桃山時代以前著重實用性，即前兩項，以後則著重裝飾性，即第三項。
上古時期
平安時代末期之前的刀劍被歸類為上古刀，刀形有別於現在常見的日本刀，或為直刃，或帶雙鋒。上古刀極為罕見，是重要的考古材料。
日本古墳時代已經出現鐵制刀劍。譬如崎玉縣的稻荷山古墳和島根縣的造山古墳都有鐵劍出土。從稻荷山古墳出土的“金錯銘鐵劍”制作於公元471年，是為紀念服侍雄略天皇的功績而作，刀上刻有115個漢字。這個時代的刀劍多已銹蝕。
7-8世紀以後的刀劍保存比較完整，有名的有四天王寺的丙子椒林劍七星劍，正倉院的金銀鈿莊唐長刀等，據考證這些刀劍是多為中國，朝鮮的舶來品。這個時代，吳(中國東南部的總稱)的刀被認為是最好，對此推古天皇曾作詩贊賞。同時外國的鍛造工藝大量流入使得日本的鍛造水準也大幅上升。正倉院藏有壹批被稱作為“唐大刀”的上古刀，和被稱作為“唐樣大刀”日本仿制的上古刀。
現在遺留下來的平安時代初期的刀劍數量相當稀少。學術關於日本刀風格的變遷，以及日本是何時怎樣創造出獨特的彎刀等疑問，還未能充分闡明。普遍認為，平安時代中期 (10世紀左右)承平之亂和天慶之亂發生以後，直刀逐漸轉變為彎刀。同時，制作工藝也由平造轉為類似菱形的鎬造刀。制作工藝的改進使日本刀更加堅固而且鋒利。這壹過渡期的典型的樣式是刀身刀把為整塊鐵打制而成的“毛拔形大刀”以及帶有鋒兩刃構造並有彎曲刀反的“小烏丸”型刀，毛拔形大刀以伊勢神宮所藏傳為藤原秀鄉使用過的壹把最為著名。
太刀時代
平安時代後期，尤其是武士勢力最活躍的“前九年之役”和“後三年之役”時期，武士門第勢力增大，由此日本刀有了大發展。如出產優質鐵礦砂的伯耆國和備前國，還有作為政治文化中心的山城國，大和國等地，出現了不同流派的刀工，這個時候的日本刀主要被用於馬上決戰，所以多為太刀。這壹時期的代表作品有源賴光在大江山斬了“酒吞童子”的“童子切”(伯耆國的安綱制，日本國寶)，和傳說讓狐貍幫忙打造過的“小狐丸”(山城國的三條宗近制，二戰時被毀)。除了安綱以外，山城(今京都)的三條小冶宗近，古備前友成等，被認為是現存刻有制作者名字作品的最古的刀工。
平安時代太刀特征為：鎬造，庵棟(いおりむね，Iorimune），小切先，京反，前窄後寬，刀形優美。
鐮倉時代初期日本刀與平安時代末期相似，鐮倉幕府的武家政治體制的確立，使刀劍界十分活躍。後鳥羽上皇甚至設置了禦番鍛冶，月月召刀工鍛刀，積極的鼓勵制刀。
鐮倉時代中期，由於重視使用性的結果，刀幅寬，整體寬窄變化小。刀鋒為豬首切先，品質實在刀風剛健。此時短刀制作開始繁榮。
鐮倉時代末期，兩次元軍入侵以及原有政治體制的崩潰帶來的社會大動亂，使得制刀業繁榮。這個時期的日本刀比鐮倉中期風格更加豪放。繼承和發揚了刀幅廣，刀體寬窄變化小的特點，切先也更長了。短刀，刀，太刀都同樣的出現比其他時期更長的特點。
南北朝時代，大量出現了和以往不同的稱為大太刀，野太刀的大型刀。
室町以後
室町時代中期以後，日本刀由刀刃向下佩帶的太刀轉為刀刃向上佩戴的打刀。由於轉入了和平時期，日本國內刀劍需求量降低，日本刀開始作為貿易品大量生產，因此日本刀的品質開始下降。由應仁之亂再度引發的戰亂，刀劍的需求量又再度膨脹，為適應需求出現了大量的粗制濫造品，使得日本刀的品質更加下降了。
到了江戶時代，江戶(今東京)，大阪(今大阪)各地鍛造業繁榮，各地名刀工湧現。隨著太平盛世的持續，日本刀開始盲目追求華美的刃文，漸漸離實用性的本質脫離。另外，這個時代開始鐔、小柄、目貫、笄等刀具裝飾開始發達。
幕末期的騷亂開始後，以水心子正秀等為中心的主張古刀鍛錬法復元派，再度將實戰性強的日本刀制作法發揚。此後的刀被稱為新々刀。正當制刀開始再度繁栄之時，明治維新展開了，1873年開始禁止武鬥，1876年禁止警察，軍人以外的人帶刀的廢刀令出臺，日本刀急速衰退。現代則作為壹項傳統工藝，古式制刀法仍在各地流行。
上古刀(じょうことう，Jyoukotou)：通常不列入日本刀之列，指的是古刀之前的刀。以直刀為主，大刀等偶爾可見刀反。
古刀(こどう，Kodou)：指慶長以前的日本刀。室町時代中期以前主要是太刀。
新刀(しんとう，Shintou)慶長以後的刀。
新々刀(しんしんとう，Shinshintou)：依據水心子正秀提倡所制作，使用古刀鍛造法的刀，另有諸說，概指18世紀末到19世紀初，幕末時期的日本刀。
現代刀(げんだいとう，Gendaitou)：也有諸說，概指1876年日本頒布廢刀令以後所制刀。
昭和刀(しょうわとう，Syouwatou)：作為美術刀劍的日本刀範疇外的壹種，是主要用於軍刀的兵器用刀。有多種制法。
按形狀分類
各種日本刀，擺放方向不同，是因為銘文鑿刻的方向不同。
太刀(たち，Tachi)：壹般較刀為長，刀身彎度亦較高。太刀沒有硬性規定的佩帶方式，不過，為了方便騎兵抽刀砍殺地面上的敵人，太刀壹般會以邊鋒朝下的方式佩帶，並吊在腰帶以下。日本刀都分正反面，太刀的正面是右面。銘的位置是關鍵，若切先上指，將刃視作刀劍的前方，太刀的銘就在刀身的右面。
毛抜形太刀：莖兼柄（つか，Tsuka）之功用的太刀，存在於由直刀到彎刀的過渡期。
小烏丸形太刀：從刃區到物打屬鎬造，鋒為雙刃。稍有弧度，是直刀到彎刀的過渡期的壹種刀。
刀（かたな，Katana）：又稱打刀(うちかたな，Uchikatana) ，壹般較太刀為短，刀身彎度亦較低。為求達到最快的拔刀速度，傳統上刀會以邊鋒朝上的方式佩帶，刀鞘插在腰帶裏。若切先上指，將刃視作刀劍的前方，銘就在刀身的左面。所以刀的正面也就是左面。按現代分類指長度（刃長：切先到棟區的直線距離）60cm以上的刀。
脅差(わきざし，Wakizashi)：又稱脅指，指長度30cm以上60cm未満的刀。
短刀(たんとう，tantou)：長度未満30cm的刀。另外，30cm以上但是沒有刀反的平造制法制成的刀，通稱寸延也常被歸為短刀。