在原始社會，古人類就用石頭、蚌殼、獸骨打制成各種形狀的刀。他們選用的石頭多半是石英石、砂巖，也有燧石和水晶石。用這些石料打制成的石刀質堅棱利，是很好的砍劈工具。其次是用蚌殼和獸骨磨制的蚌刀、骨刀，這類刀輕便鋒利，適於砍削器物。同樣古人不僅用刀作為勞動工具，還隨身攜帶作為防身自衛的武器。
中國的刀
最早的銅刀脫胎於石刀，形狀很小。中國目前發現最早的青銅兵器便是銅刀。商朝的青銅刀，刀形較寬，刃端多向上翹。當時的刀主要用來砍削器物，宰牛羊，或防身自衛，還未正式用於戰爭。西周時期，出現了青銅大刀，柄短刀長，有厚實的刀脊和鋒利的刀刃，刀柄首端呈扁圓環形，所以又叫“環柄刀”。在北京昌平縣白浮西周木槨墓中出土兩把青銅刀，壹把刀身長41厘米，刀背微弓；另壹把長24厘米，類似冰刀形。那時的青銅刀質地較脆，缺少韌性，劈砍時容易折斷。與同時代的銅劍相比，刀的做工粗糙，形體笨拙，遠不如銅劍精巧鋒利。因而刀遲遲沒有投身戰場。
秦漢時期，鋼鐵問世以後，刀的制作工藝得到改善，形制上刀身加長，並且已有專門的戰刀和佩刀之分。佩刀講究式樣別致，鑲飾美觀；戰刀則註重質地堅韌，作工精良。在當時諸國戰爭中，兵車已漸漸退出戰場，取而代之的騎兵隊成為作戰主力。因此單純的刺兵器不足以發揮效力，擅長劈砍揮殺的鋼刀的制作質量要求越來越高。據史書記載，三國時劉備令工匠造刀5000把；孫權則命造刀1000把；司馬炎也曾壹次遣人造刀8000把。這些刀是用來裝備軍隊的，那時刀已成為主要兵器之壹。最通用的刀要算“環首刀”，這種刀直背直刃，刀背較厚，刀柄呈扁圓環狀，長度壹米左右，便於在騎戰中抽殺劈砍，是壹種實戰性較強的短兵器，在戰場上的廝殺格鬥中，許多將領往往長矛短刀並用，遠刺近劈，威力無比。西漢時大將李廣之子李敢“左持長槊，右執短刀，躍馬陷戰”。三國時南蠻首領孟獲的妻子祝融夫人善使飛刀，百發百中。她曾手提八尺長標，背插五口飛刀，重傷張嶷，活捉馬忠。
鋼刀不僅用於戰場上，而且在官場上同樣地位尊貴。漢朝時，自天子至百官無不佩刀。佩刀表示達官貴族的身份等級。東漢時，對天子百官的佩刀形制及裝飾都有極嚴格的明文規定，誰也不準許逾越。這種佩帶用刀，從外形上要求精致美觀，刀身通體雕錯花紋，刀環鑄成各種形態的鳥獸圖案。例如東漢中山穆王劉暢生前的佩刀，全長105厘米，刀身飾有線條流暢的錯金渦紋和流雲圖案。兩漢三國時，諸國君臣莫不看重佩刀，有的幾近嗜好，不惜花費重金，延請名師，耗用幾年甚至十幾年功夫，煉制寶刀。那時有名的制刀匠有阮師，據說他造刀“受法於寶青之虛……以水火之齊，五精之陶，用陰陽之候，取剛柔之和”。所制的阮家刀“截輕微無絲發之際，斫堅剛無變動之異”。還有蜀國的蒲元，他運用當時的先進淬火技術造刀，具有獨到之處。曾受諸葛亮之命，在斜谷造鋼刀3000把。
隋唐時采用更為先進的“灌鋼法”代替了百煉法，煉出的刀更加堅韌鋒利。唐朝的刀有儀刀、鄣刀、橫刀三種。儀刀是皇朝禁衛軍使用的武器；鄣刀是壹般官吏佩帶用刀；橫刀是專門裝備軍隊的戰刀。唐代制刀不僅註意保持漢民族傳統的制作技藝，而且隨著各國及各民族之間經濟文化的廣泛交流，還吸收了不少外來的制刀技藝，促使戰刀的制作更趨於實用。明朝軍隊使用最多的是“腰刀”。腰刀的刀體狹長，刀身彎曲，刃部延長，吸收了倭刀的長處，使劈砍殺傷的威力增大。明朝著名將領戚繼光非常重視腰刀的制作，在其軍事著作《練兵實紀》中對腰刀制作方法有著詳細的研究與記載。清朝，刀的種類更為繁雜，有腰刀、滾背雙刀、脾刀、雙手帶刀、背刀、窩刀、鴛鴦刀、船尾刀、割刀、繚風刀等等。其中被廣泛應用於作戰的是腰刀和雙手帶刀。腰刀上部較直，下部微曲，刃部略窄。刀身長三尺二寸，柄長三寸，重壹斤十兩（古時1斤＝16兩），壹般用於騎兵作戰。雙手帶刀，柄長壹尺五寸，可容雙手把握，刀刃長且特別寬大厚重，上部呈平線形。步兵在近身交戰時，壹刀砍去，可斷敵首級或四肢。短刀在明清時代仍然是軍隊的主要兵器之壹。