在原始社會，古代人類用石頭、蚌類和動物骨頭制作各種形狀的刀。他們選擇的石頭大多是石英石、砂巖、火石、水晶石。用這些石頭制成的石刀堅硬鋒利，是很好的劈砍工具。其次，用蚌殼和動物骨頭制成的蚌刀和骨刀，質輕而鋒利，適合切割器具。
最早的銅刀脫胎於石刀，形狀非常小。中國發現的最早的青銅武器是銅刀。商代青銅刀形制較寬，刃端上翹。當時刀主要用於切割器皿，宰殺牛羊，或防身，但在戰爭中並未正式使用。