有關古琴的記載最早見於《詩經》、《尚書》等文獻。《尚書》載：“舜彈五弦之琴，歌南國之詩，而天下治。”可知琴最初為五弦，周代時已有七弦。東漢應劭《風俗通》：“七弦者，法七星也，大弦為君，小弦為臣，文王、武王加二弦，以合君臣之恩。”三國時期，古琴七弦、十三徽的型制已基本穩定，壹直流傳沿續到現在。
古琴的演奏形式主要有琴歌、獨奏兩種。根據文獻記載，先秦時期，古琴除用於郊廟祭祀、朝會、典禮等雅樂外，主要在士以上的階層中流行，秦以後盛興於民間。關於以琴為聲樂伴奏的形式，早在《尚書》中，已有搏拊琴瑟以詠的記載。周代，多用琴瑟伴奏歌唱，叫弦歌，即唐宋以來所謂的琴歌。從漢代蔡邕所著《琴操》中，有歌詩五曲，即周之弦歌，其中的十二操、九引以及河間雜歌，都是援琴而歌的。
春秋戰國時期，古琴的獨奏音樂已具有壹定的藝術表現能力，如伯牙彈琴子期善聽的傳說。當時有名的琴師有衛國的師涓，晉國的師曠，鄭國的師文，魯國的師囊等；著名的琴曲如《高山》、《流水》、《雉朝飛》、《陽春》、《白雪》等，均已載人史冊。
漢、魏、六朝時期，古琴藝術有了重大發展，除在《相和歌》、《清商樂》中作伴奏樂器外，還以但曲演奏形式出現。如器樂曲《廣陵散》、《大胡笳鳴》、《小胡笳鳴》等，反映出古琴作為器樂演奏的壹個重要發展階段。漢末的蔡邕父女和魏、晉間的嵇康，都是當時著名的古琴演奏家和作曲家。如嵇康擅長彈奏古琴名曲《廣陵散》，己傳為歷史佳話。創作的著名樂曲有嵇氏四弄：《長清》、《短清》、《長側》、《短側》；蔡氏五弄：《遊春》、《淥水》、《幽居》、《坐愁》、《秋思》；傳為竹林七賢中的阮籍所作琴曲《酒狂》以及六朝宋王義慶《烏夜啼》。
隋唐時期，西域音樂盛行，琵琶興起，古琴音樂的發展受到壹定的抑制。但由於古琴譜的產生，不僅推動了當時古琴音樂的傳播，而且對後世古琴音樂的繼承發展具有深遠的歷史意義，使中國古代音樂歷史進入了壹個具有音響可循的時期。隋末唐初趙耶利，對當時流行的文字指法譜字，進行了整理，並輯錄了《彈琴右手法》、《彈琴手勢圖》等解釋演奏法的著作。著名的琴曲《碣石調幽蘭》，為南朝梁丘明傳譜，現存為傳到日本的唐手寫卷子，是中國最早的、也是目前所知的唯壹的壹份古琴文字譜。
唐代詩人李嶠、李頎、李白、韓愈、白居易、張祜、元稹等，都為古琴寫下了不朽的詩篇。白居易愛好古琴，在《夜琴》中有：“蜀琴木性實，楚絲音韻清。”他的琴藝很高，並能自彈自唱，甚至在旅途船中仍以古琴為友，他在《船夜援琴》中寫道：鳥棲月動，月照夜江，身外都無事，舟中只有琴。七弦為益友，兩耳是知音，心靜即聲淡，其聞無古今。”張祜的《聽嶽州徐員外彈琴》也有：“玉律潛符壹古琴，哲人心見聖人心。盡日南風似遺意，九疑猿鳥滿山吟。”描寫了古琴豐富的表現力。唐代著名琴家有趙耶利、董庭蘭、薛易簡、陳康士、陳拙等。趙耶利總結當時琴派說：“吳聲清婉，若長江廣流，綿延徐逝，有國士之風，蜀聲躁急，若急浪奔雷，亦壹時之俊。”至今仍符合吳、蜀兩派的特點，盛唐的董庭蘭作有《大胡笳》、《小胡笳》等琴曲傳世。薛易簡在他著的《琴訣》中總結了古琴音樂的作用是：“可以觀風教、攝心魂、辨喜怒、悅情思、靜神慮、壯膽勇、絕塵俗、格鬼神。”並提出演奏者必須“定神絕慮，情意專註”，為後世琴家所重視，從而引伸出許多彈琴的規範。
晚唐曹柔鑒於文字譜其文極繁，使用不便，而創造了減字譜。即在文字譜字的基礎上對漢字譜字加以減筆而成的壹種譜式，近似演奏符號，是古琴減字譜的早期形式。唐代著名琴家有董庭蘭(開元、天寶年間)，從其師陳懷古處承繼了當時最負盛名的沈、祝二家聲調，擅彈琴曲《大胡笳》、《小胡笳》。天寶中琴家薛易簡，可彈大弄四十、雜調三百，並有理論著作《琴訣》七篇，擅彈《三峽流泉》、《胡笳》、《烏夜啼》、《別鶴操》、《白雪》等曲。晚唐還有琴人陳康士根據屈原《離騷》所作的琴曲等。
宋朝的古琴壹方面出現懷舊的復古主義傾向，另壹方面由於古琴在《相和歌》、《清商樂》演奏中的長期實踐，與民間音樂有著深遠的聯系，以及琴曲楚漢舊聲的歷史傳統，使古琴音樂在復古主義傾向中並沒有被湮沒，而是有起有伏曲折地發展著。南宋時期傑出琴家郭沔(號楚望，生於1190年，卒於1260年後)和他的弟子劉誌芳、毛敏仲等人，在古琴遺產的整理、創作方面對古琴音樂的發展作出壹定的貢獻。如郭沔創作的琴曲《瀟湘水雲》、《泛滄浪》、《秋鴻》；劉誌芳創作的《忘機》、《吳江吟》；毛敏仲創作的琴曲《漁歌》、《樵歌》、《佩蘭》、《山居吟》等都流傳至今。當時著名的琴曲還有《楚歌》、《胡笳十八拍》、《澤畔吟》等；琴歌有姜夔(公元1155壹1221)的《古怨》；廬山道士崔閑所著《醉翁吟》等。宋人朱長文撰寫的《琴史》，真實地記錄了隋、唐、宋三代琴的史料。
明、清時期由於印刷術的發展，大量琴譜得到刊刻流傳，見於記載的琴譜有壹百四十多種，從中可知僅明代創作的琴曲就有三百多首。明初琴家冷謙的《琴聲十六法》，是對古琴的美學思想、演奏技巧和藝術表現提出的理論。明太祖朱元璋第十七子、寧王朱權，是明代琴家，對古琴藝術的發展作出卓越貢獻，他收錄唐宋之前藝術珍品六十四曲、歷十二年主持撰輯了《神奇秘譜》，於1425年刊行，是中國現存最早的壹部琴譜。明末清初，徐上瀛更進而提出《二十四琴況》。明清以來，著名的琴曲有《秋鴻》、《平沙落雁》、《漁樵問答》、《良宵引》、《水仙操》、《鷗鷺忘機》、《龍翔操》、《梧葉舞秋風》等。
這壹時期在演奏上由於民間音樂(特別是戲曲音樂)的熏陶和影響，古琴技巧有了突出的發展，尤其是左手技巧的創新，如《五知齋琴譜》中的《瀟湘水雲》、《胡笳十八拍》等琴曲，左手技法極為細膩，前所未見。以後的許多琴譜，在整理加工傳播傳統古琴音樂方面，也達到了壹個新的階段。明、清時期著名琴人有嚴澄、徐谼、蔣興儔、徐常遇、蔣文勛、張孔山等人，近代著名琴人又有黃勉之、楊宗稷、王燕卿等。
清末與民國年間由於戰亂和社會變遷，特別是古琴本身存在的局限性，使古琴音樂瀕於絕滅。當時，全國各地也出現了壹些琴會組織，如北京的嶽雲琴集、濟南的德音琴社、上海的今虞琴社、長沙的愔愔琴社、太原的元音琴社、揚州的廣陵琴社，南京的青豁琴社、南通的梅庵琴社等，它們的活動都有壹定的社會影響。其中尤以上海的今虞琴社，持續時間最長，對琴界影響最大。
建國後，古琴音樂得到政府的重視和搶救，調查、收集、整理了流失於民間中的各種傳譜，並錄制了壹批音響；發掘壹批失傳的琴曲，如《廣陵散》、《幽蘭》等；培養了壹批古琴音樂人材，為今後古琴音樂的整理、研究、發展開辟了新的前景。著名的琴家有管平湖、吳景略、龍琴舫、查阜西、張子謙、夏壹峰等。