它形成於魏晉南北朝時期，但還沒有完全從人物畫中分離出來。隋唐時期獨立，五代北宋時期成熟，成為中國畫的壹個重要分支。傳統上按畫風分為青綠山水、金黃山水、水墨山水、淺絳山水、小綠山水、無骨山水。
山水畫最早是作為人物畫的背景出現的，東晉畫家顧愷之用《羅申彬圖》臨摹可以看到它的面貌，具有很強的裝飾風格。隨著山水畫的出現，南宋時期宗炳的《畫山水序》和王巍的《畫譜》可以說是中國傳統山水畫最早的創作作品，無疑對當時山水畫的發展起到了推波助瀾的作用。尤其是王維用詩歌創造了單純抒情之外的意境。。他首先運用潑墨山水技法，極大地發展了山水畫的情趣和意境，為山水畫的變革做出了巨大貢獻，進而為山水畫的成熟準備了條件。
五代至宋代，山水畫發展成熟健全，也是中國山水畫的鼎盛時期，名家輩出。在北方，郝靜和管同是代表。他們對長期接觸的北方雄偉的自然山川有著強烈的理解和感受。在南方，董源、巨然等人是代表。與北方景、關畫中的雄壯山水相比，他們的畫更為綺麗抒情，山水畫既有青綠，又有水墨。尤其擅長水墨山水，集揉、擦、點、染於壹身，創造出匹馬、典子等表現手法。他們的特點形成了兩種不同的風格和畫派，反映了這壹時期山水畫的巨大成就。事實上，這也是中國山水畫自隋唐形成以來的壹次變革。宋代顧城、範寬、郭、米芾、米友仁等成就突出。南宋以唐力、劉松年、馬援、夏圭為代表。
隨著歷史的發展，元代畫家趙萌完成了對(黃、真武、倪瓚、王蒙)的又壹次改造，這是中國山水畫的又壹次重大發展。他們把毛筆從雋素搬到了紙上，進壹步發展了筆墨的表現。四派的筆法由淺入深，先幹後潤多次的方法成為山水畫的重要表現方法。他們創作的主觀方面加強，寫景即寫情、寫意畫，為文人山水畫奠定了基礎，也是這種變化的關鍵。
再壹次是明朝中後期和清初，這是壹個動蕩的改朝換代的時代，但是已經出現了壹批強面的畫家。明代中期，沈周、文開創了山水畫象征人物的表現方法，清初、石濤、尤燦、龔賢、洪仁、等表現突出。朱耷和石濤是其中最傑出的代表。
作為山水畫，近代的壹次變革是在清末民初和建國後。這壹時期的特點是在吸收前人傳統的基礎上，註重寫生，吸收外來技法，不受傳統觀念的束縛。這壹時期以近代嶺南畫派和解放初期的高、、、陳等畫家為代表。在藝術上，他們主張在東西方之間兼收並蓄地學習東方繪畫，從而萌發了改革中國畫的思想。事實上，他們在清朝中期就試圖向西方繪畫學習，如郎士寧和盧偉，他們取得了巨大的成功，但在當時並沒有引起多大的轟動。
縱觀中國山水畫的發展歷史和變遷，可以看出山水畫需要發展，我們必須認真學習和繼承傳統。我們必須面對自然，在生活中觀察和體驗。山水畫的創作方法不是機械地模仿自然，而是辯證地描繪自然。這個過程是現實與理想的結合，是源於生活又高於生活的體驗。在它的指導下，歷代畫家創作了大量的優秀作品，這些作品反映了不同的時代和不同的個人精神面貌，百花齊放，蔚為壯觀，高瞻遠矚。願我們改進筆墨的使用，發明創造。