生肖紀年始於東漢。《北史·宇文護傳》中記載了宇文護母親寫的壹封信，信中說:“妳哥哥出生在吳川鎮，第壹個是老鼠，第二個是兔子，妳是蛇。”說明當時民間有12生肖的用法。
根據我們的古籍記載，在古代中原地區，最初使用的是“枝幹年表”，即10天幹符號(A、B、C、D、E (wù)、吉、庚(gēng)、辛、仁(rén)、桂(guǐ)。同時，也有十二種動物用地支來簡單地確定年份。到隋代，中原歷法已經傳到中國西北的遊牧民族，他們只吸收了十二種動物紀年。所以《唐書》中記載:“拓跋思年以十二事為界。如果年在陰，則稱之為虎年”。此外，《宋史·吐蕃傳》中也記載吐蕃首領敘事時，以事為年表。俗話說“十二舊物歸日本，兔年，馬年”。正如清代趙翼在《玉琮考》中所指出的，“醜子之醜，蓋北之俗之初，無所謂其醜不醜，而分年之時，則傳於中國，故不廢耳。”這個關於12生肖起源的解釋得到了很多人的認可。
關於12生肖的由來也有說法:洪勛《陽顧漫錄》說，12的奇數地支也配有奇數動物的手指或蹄子。比如子在首位，與之相配的鼠為五指，地支為偶數的，偶數的命名。比如牛配醜，就是四爪。葉世傑對曹中12生肖的由來解釋如下:畫師將12與12搭配，每個肖都有自己的缺點，如老鼠無齒、牛無齒、虎無脾、兔無唇、龍無耳、蛇無腳、馬無膽、羊無瞳、猴無腳。
還有其他各種說法。比如黃帝要選12種動物按時在天上值班。通過比賽，選出鼠、牛、虎等12種動物。12生肖來源於原始社會壹些氏族的圖騰崇拜，是在某次會議上根據各個部落的強弱來劃分的；12生肖可能是天竺傳入的；或者28顆星分布在壹周左右，數值為12小時。每顆星星都以壹種動物命名。每小時選擇壹種常見的值班動物作為某年的代理，以此類推。
雖然人們不能確定12生肖的確切來歷，但由於它的普及性、方便性和趣味性，壹直沿用至今，成為古人留下的具有實用價值的寶貴遺產。