古人在煨制取暖的時候，不小心被火燒傷，緩解了某種痛苦，從而得到燃燒可以治病的啟示，這就是艾灸的起源。“灸”字在《說文解字》中解釋為“燒”，意思是燃燒身體來治病。起初可能用樹枝、柴火來熏、燙、燒、燙來消除疾病，逐漸選用艾條作為主要灸料。艾蒿自古以來就生長在我國遼闊的土地上。因其氣味芳香，易燃性溫和，火力適中，已取代壹般的樹枝燃料，成為艾灸的最佳材料。據《左傳》記載，公元10年(公元前581年)，晉景公生病，秦的大夫命大夫慢慢來看他。醫生說:“病不能做，也不能攻，藥也治不好。”晉杜預註:“攻”指艾灸，“達”指針刺。漢代張仲景《傷寒論》記載“火可”與“火不可”，他所說的火也指艾灸。
“艾灸”壹詞最早見於現存文獻記載，如《莊子·阿盜其足》。例如，孔子勸劉:“秋所謂無病灸也。”孟子o離婁也記載“今人欲為王，尚有七年病，欲三年情”，顯然指的是艾灸。由此可以推斷，艾灸在春秋戰國時期是相當流行的。1973，中國湖南長沙馬王堆三號漢墓發掘。在出土的帛書中，有3部記載了經絡灸，是《內經》之前最早的珍貴文獻。在醫學專著中，灸法最早見於《內經》。《異方異治論》阿說:“北方者，天地所藏，居高山，風冷冰寒，其民樂野乳，汙寒滿病。所以練艾灸冰敷的也是北方人。”說明艾灸的出現與我國北方人民的生活習慣、條件和發病特點有著密切的關系。