山水畫的技法包括勾、卷、染、點四個步驟。先用墨線畫出巖石的輪廓，再用各種扭曲的方法把巖石的明暗畫回來，再用淡墨渲染進壹步增強巖石的立體感。最後用濃墨或亮色突出遠山巖石或樹上的苔蘚。
從古至今，中國山水畫的特點是:人或建築必須出現在畫上，畫才顯示出生命力；雖然古代日本也學習中國畫的技法，但日本山水畫從不表現人或動物，表現出壹種寧靜的氛圍；在歐洲，直到文藝復興時期才出現了作為人物背景的風景，直到17世紀才開始出現純粹的山水畫。
從唐代開始，中國的山水畫開始分為南、北兩大流派。北派的創始人是唐代畫家李思訓。他發明了斧劈法，在畫中重復使用色彩，在濃墨點上使用鮮艷的石青，非常適合表現北方陽光燦爛、巍峨的山峰。宋代畫家張擇端、唐力、馬援、夏圭等繼承了他的畫風，自成壹派。
南派始於被評為“詩中有畫，詩中有畫”的著名詩人王維，用宋代畫家米芾發明的匹馬片和雨滴團或米點團，以墨多於色的細雨形式表現江南丘陵地區，後發展為水墨山水，王蒙、倪瓚等畫家發展形成了南派風格。
前蘇聯的畫家在20世紀50年代訪問中國時，認為水墨山水不寫實。當時蘇聯反對西方現代抽象畫。後來被邀請去黃山雲海參觀後，感嘆中國的水墨山水生動地表現了中國南方的風光。
從明末到清代，山水畫陷入了形式主義的套路，畫家不再觀察自然，從臨摹古畫的技巧入手，任意操縱繪畫的構圖。明清雖有不少花鳥畫、人物畫大師，但山水畫發展停滯，《芥園列傳》把山水畫變成了八股。
直到近代，山水畫又有了發展。黃、李可染、張大千、傅抱石和等新壹代大師吸收西方繪畫理論，深入觀察自然，創造自己的風格，使山水畫復興並發展到壹個新的階段。尤其是傅抱石和關山月合作的《山河有這麽多美》中的人民大會堂，開創了中國繪畫巨幅山水畫的先河。在現代，有許多年輕的風景畫家表達新的主題，用中國畫的技巧來描述黃土高原，西北沙漠，西藏雪山，熱帶雨林，甚至海外國家的風景。山水畫有了全新的局面。