人們對方程的研究可以追溯到遠古時期，大約3600多年前，古埃及人寫在紙草書上的數學問題中就涉及了含有未知數的等式。公元825年左右，中亞細亞的數學家阿爾—花拉子米曾寫過壹本《對消與還原》的書，重點討論方程的解法，這本書對後來數學的發展產生了很大的影響。
在很長時間內，方程沒有專門的表達形式，而是使用壹般的語言文字來敘述。17世紀時，法國數學家笛卡爾最早提出了用xy、z這樣的字母來表示未知數，把這些字母和普通數字同樣看待，用運算符號和等號把字母與數字連接起來，就形成含有未知數的等式。後來經過不斷的簡化和改進，方程逐漸演變成現在的表達形式，例如6x+8=20，4x-2y=9，x-4=0等。
中國對方程的研究也有著悠久的歷史。中國古代數學著作<九章算術》大約成書於公元前200~50年，其中有專門以“方程”命名的壹章。這壹章中所說的方程實際上就是現在人們所說的壹次方程組，方程組由幾個方程***同組合而成，它的解是這幾個方程的公***解。“方程”壹章中以壹些實際應用問題為例，並給出了用方程組的解題方法。 >
中國古代數學家表示方程時，只用算籌表示各個未知數的系數，而沒有使用專門的記法來表示未知數。按照這樣的表示法，方程組被排列成長方形的數字方陣，這與現代數學中的矩陣非常接近。我國古代數學家劉徽註釋“方程”的含義時，曾指出“方”字與上述數字方陣有密切的關系，而“程”字則指列出含未知數的等式，所以漢語中“方程”.壹詞最早來源於列壹組含未知數的等式解決實際問題的方法。宋元時期，中國數學家創立了“天元術”，用“天元表示未知數而建立方程，這種方法的代表作是數學家李治寫的《測圓海鏡》，書中所說的“立天元壹”相當於現在的“設未知數x”。
隨著數學研究範圍的不斷擴充，方程被普遍使用，它的作用越來越大，方程的類型也由簡單到復雜不斷地發展。但是無論類型如何變化，形形式式的方程都是含有未知數的等式，都表達涉及未知數的等量關系;解方程的基本思想都是依據等量關系使未知數逐步化為用已知數表達的形式，這正是方程的本質所在。