先秦是中國散文的成熟期和第壹個繁榮期，目前可知中國最早的散文集，是《尚書》。春秋戰國時期，是中國思想史上百家爭鳴的時代，他們各自提出如何解決當時的社會問題的主張，散文的發展因而突飛猛進，產生哲理散文與歷史散文。哲理散文著名的諸子散文有記載老子思想的《老子》、以及許多重要思想家自己撰寫的，如《墨子》、《莊子》、《韓非子》、《呂氏春秋》、《荀子》等等；而《春秋》、《左傳》、《國語》、《戰國策》，記載春秋、戰國時代各國的政治、軍事、外交活動和重大事件，以及遊走於各國的策士、說客的言論，可歸之於歷史散文，為中國敘事文學樹立楷模。
漢代散文延續先秦而有再進壹步的發展。先秦哲理散文在當代政治、經濟、社會各方面的具體條件之下而蓬勃興盛，其所呈現的思想、所闡發的道理，也都以現實為觸發，兩漢政論散文以此為基礎，綜合儒、道、法三家的思想，更進壹步與時代緊密結合，發揮經世濟民的功能。
漢代散文可分史傳散文、政論散文和哲理散文三類。史傳散文有《史記》及《漢書》；政論散文有賈誼《治安策》、《過秦論》、晁錯《言兵事疏》、《論貴粟疏》；哲理散文有劉安《淮南子》、王充《論衡》。
先秦、漢代散文，記載、詮釋歷史，或針砭、議論當代，或為解決問題而出，或為陳述理想而著，其動機、其目的本不在文，所以各家散文，各有其特色；這就是唐、宋以來散文作家孜孜以這兩個時代的散文為典範而大力提倡的基本原因。
魏晉南北朝是繼春秋、戰國之後，中國歷史上第二個社會大變動的時期。二者之不同在於春秋、戰國時期為封建解體和國家形成的過渡階段，是壹個由分而合的過程；魏晉南北朝是在大壹統的漢帝國滅亡後的分裂時期。由於政治環境的混亂、儒學的衰微與玄學的興盛、道教佛學的傳布等等因素，造就這個時期獨特的文學品味和風氣。這時的散文大抵上追求“美”，講求形式，註重辭藻，而個人情感加重許多，這壹時期的風格，傾向於精致細膩，與先秦、漢代恢宏壯闊的散文大為不同，而是以代表此文風，來表現出山水之美。山水是自然的，政治、經濟、社會是人為的。面對人為種種混亂和黑暗，文人從山水之美尋找寄托、慰籍。
此壹時期的散文作品，有北魏酈道元的《水經註》和楊炫之的《洛陽伽藍記》為代表。《水經註》文字精美、文筆流暢，呈現雄奇秀麗的山水景色，生動而有韻味，對於後代的山水遊記影響極為深遠；《洛陽伽藍記》描述洛陽的佛寺園林，文字簡潔，辭采豐美，而記述詳實，反映當代的社會面貌和豪門、僧尼的淫侈生活。其他的山水小品，皆是字句秀麗，意境高遠，趣味雋永，充分表現出此壹時期文人的心態。
唐代不同於漢代，在於文化的包容力較強，因此魏晉以來的佛、老思想以及唯美文風依然持續。壹直到中唐，韓愈有見於國家日趨衰微，針對六朝時駢文的奢華風氣，開始號召古文運動，力圖以樸實明暢的散文，取代華而不實的駢文，因此易寫、易讀的散文，在唐詩盛行的時代，曾壹度風行起來，不過到了晚唐、五代，古文運動漸趨衰落。
韓愈的創作，語言明快暢達，文氣充厚貫註，不論論說、敘事、抒情，都有極高的成就。古文運動的另壹倡導者柳宗元則以山水遊記及寓言短文，顯表散文優於駢文的例證。柳宗元山水遊記借山水以寫自身遭遇和感慨；寓言短文則短小警察，或評時政，或諷人性，皆犀利而又深遠。
後來到了北宋中期，歐陽修繼承韓愈為職誌，領導當代古文運動，蘇洵、蘇軾、蘇轍、曾鞏和王安石為先導者。其六人加上唐代的韓愈、柳宗元，並稱“唐宋古文八大家”，其文兼有歷史散文之事、哲理散文之理以及魏晉南北朝之情，三者兼具，散文至此已到巔峰，因此在中國散文的寫作史上，留下輝煌的壹頁。
在金、元散文不振，作家沈寂之後，明代散文的發展。由於八股取士的政治特色，使當時的壹些知識分子產生對八股文的反動，以前後七子為首的文學集團，主張擬古、復古，強調“文必秦漢，詩必盛唐”。造成那時對秦漢散文模擬的風氣大盛，擬古風氣籠罩明代文壇約壹百年。然而壹味地抄襲、模擬，終究不是良好的創作心態，產生的作品價值有限。另外小品文的出現，倒是為明代的散文，註入了壹股新的氣息。
清代延續明代出現風格率真、浪漫的小品文，以張岱、李漁與袁枚為主；又有侯方域、魏禧和汪琬合稱“清初散文三大家”。但是他們的文風不受道學學者支持，這些學者發起復興唐宋文風的古文運動，此即桐城派，其繼承歸有光的“唐宋派”古文傳統。創始人方苞與劉大櫆、姚鼐有“桐城三祖”之稱。姚鼐是桐城派的集大成者，他的古文主張，在提倡“義理（內容合理）、考據（材料確切）、詞章（文辭精美），三者不可偏廢。”講究義法，提倡義理，要求語言雅潔，反對俚俗。後來曾國藩發展成湘鄉派，惲敬和張惠言發展成陽湖派。
清朝甲午戰爭後，文體漸有改變的趨勢，以梁啟超的《政論》作為代表，他的文體淺近，間雜俚語，已與清代桐城派的古代大為不同，1917年，胡適和陳獨秀等人提倡文學革命，以白話文為中國文學的正宗，主張建立通俗易懂的社會文學，那時青年學子，群起風從，五四運動以來，中國的現代散文吸收了西方的思潮，被魯迅等作家推廣之後，成為與詩歌、小說和戲曲並列的文學主流。
現代散文多用語體，較為平易，較少摹仿古人，較歐化，著重個性，題材較廣，較多幽點與諷刺。散文易讀、易寫的特性，使這種文體被運用得極廣。學生的作文，也幾乎都是用散文的形式表達，可說是人人懂寫。