與人物畫相比，魏晉南北朝的山水畫尚處於獨立化的孕育階段。不過隨著時間的推移，尤其到了晉宋以降，原來作為人物畫背景或者人物性格襯托的山水樹石逐漸從附屬地位中解脫出來，開始走向藝術的“前台”。從曆史文獻的記載來看，顧愷之在《畫雲台山記》圖解葛洪《神仙傳》中的道教天師張道陵傳，其中言及“清天中，凡天及水色，盡用空青”，顯示使用的是石青材料，當為設色的青綠山水。另外，在顧愷之的《論畫》篇中也談道：“畫人最難，次山水，次狗馬，台閣一定器耳，差易為也。”自此可見山水畫已初顯芽芒。當然，如以後世山水畫標準去審視顧愷之所畫的《廬山圖》、戴逵的《吳中溪山邑居圖》抑或夏侯瞻的《吳山圖》等作品，其山水樹石的置陳布勢與形態體貌無疑還是很幼稚的。譬如畫麵強調“人大於山，水不容泛”，山巒“則群峰之勢若細飾犀櫛”，樹石“則若伸臂布指”，畫法也唯用線條勾勒輪廓，無皴點、暈染等技巧的自覺運用。顧、戴等人的山水畫實驗，可以被視為後繼山水畫科獨立的先聲。
檢討山水畫之所以能在晉宋時突起，大抵基於兩個方麵的原因。一是南方地理位置優越，多水、多花、多色，山清水秀，自然風景秀美，無形中能為人們提供踏跡自然、接受自然大美洗禮的條件與契機。其二，晉宋適逢亂際，文人士大夫們多不滿於時政，企求避隱山林，於是對超現實、超功利的自然美的藝術觀照必然成為他們日常生活中不可或缺的一部分。根據現有的圖像與文獻資料，這一時期山水畫的藝術特征可以歸納為以下幾點：一、尚奇石，多透空表現，不重視對山石質感的描寫；二、相對於人物有白描，山水突出以設色為主；三、相對而言，畫幅中樹木表現的雜度要高於山水；四、比例上，人大於山；五、初具表現遠方的空間意識；六、山水多為神仙或理想世界，具有強烈的文人畫品格。
因為畫無所存的原因，上述幾點特征的概括主要是從當時的畫論文字中離析得出。下麵，我們代表性地擷取南朝劉宋時期的山水畫家宗炳來略作展開。
宗炳，字少文，南陽沮陽（今河南省鄧縣）人，家居江陵（今屬湖北），士族，南朝劉宋時期的專業畫家和畫論家。《曆代名畫記》載其善書畫、琴瑟，好山水，曾前後多次拒絕出仕為官。平生酷愛隱歸自然，飲溪棲穀30餘年，遊蹤遍及江南湘鄂的名山大川。後因老病才回到江陵。晚年將生平所見的山川名勝繪於室內的牆上，雖然足不出戶，卻也似置身山水之間，他自稱是“澄懷觀道，臥以遊之”。六十九歲時辭世。
宗炳的山水畫後世不存，但我們從他的《畫山水序》及別人的記述可以得窺大略。譬如他曾畫過《秋山圖》，突出以主觀感情統攝自然景物，在畫麵構圖上善於整合、提煉紛繁複雜的景物形象，可以說是《畫山水序》中“神托於形”、“以形媚道”的山水畫理論的具象化表達。又如在畫完山水景致後，他曾對別人說：“撫琴動操，欲令眾山皆響。”這意味著，那些畫滿於牆上、仿佛能與琴瑟交響共鳴的山水畫，其不僅是一堆純再現的自然景致，更是內心的一種意趣，一種“澄懷觀道”、“暢其神韻”的方式與途徑。如此之高格，可謂開文人寫意山水之清音。
作為一位唯心淨土、心向自然的體製外畫家，宗炳的山水畫創作實踐其實還有另外一層宗教的動因，那就是佛教思想的滋養與外化。事實上，宗炳還是劉宋名僧慧遠大師的弟子，世號“宗居士”。除了畫山水，他還篤信佛教，並且在廬山參加了慧遠創立的“蓮社”。其所著《明佛論》（又名《神不滅論》）是他佛學思想的代表作。這裏之所以提及這一著作，是因為該書的內容表述中蘊藏了作者基本的佛學及美學觀念。如果說後麵我們將要詳述的《畫山水序》是對宗炳山水畫藝術直接的理論總結，那麽《明佛論》則從更隱秘的角度呈現了宗炳山水畫藝術的“所以然”。該書與宗炳審美觀念相關的觀點主要有兩點：一是指出了“禮義”與“人心”的內在矛盾；一是由此內在矛盾所外化出的“形”、“神”的分野。在《明佛論》中，他慨歎道：“悲夫!中國君子，明於禮義，而暗於知人心。”在他看來，正統的儒家隻講外在化、表淺化的禮義廉恥，對複雜的感性生命以及建基其上的人的精神、心靈領域卻是知之甚少，因此是粗蠻和非人性的。故儒家君子不過是“中德以下者”，而“上德者，其德之暢於己也無窮”。也就是說，唯有充分釋放一己之潛能，自覺追求自我精神的無限超越，才是真正的最高的道德。由是，在禮義與人心的內在矛盾的解決問題上，宗炳旗幟鮮明地主張“精神自我”或“人的發現”。——這一觀點恰好是魏晉玄學、竹林七賢等所發出的時代最強音的同聲相應、同氣相求。
與之相關的第二點，在論“形”、“神”分野的問題上，他主張“神托於形”、以“神”為尚。宗炳認為，重“禮義”者，其必強調外在形象的整飭和行為規範的拘守，所以必然以“形”為主；而重“人心”者則相反，不必受禮法形骸的束縛、唯求內心之自由，故其必然以“神”為尚。周孔重形、重禮義，然其卻是“篤於為始形而略於為神”的。佛法則不同，它主張的是“心為法本”，講究“人形至粗，人神實妙”，故以能“入精神”、“明精神”為至境。這樣，重“人心”而輕“禮義”的價值取向自然導向了重“神”輕“形”之途。——這點無疑又為“寫意”、“暢神”審美思潮的崛起奠定了理論的基礎。
上述兩點，無論是“精神自我”或“人的發現”，還是“神托於形”、以“神”為尚，均為自然審美以及山水畫的獨立提供了強大的義理根源。這是因為，自然美包括山水畫中所表現的自然景象，其都不是純然外在、冷漠死寂的“物”，而恰恰是精神常駐、神會象通的“佛”本身。正所謂“佛無定所，應物而現，在淨為淨，在穢為穢”。由是，自然美與人格美得到了和諧統一，自然山水不僅僅是自然山水，更是人們借以發現人心自我、托親近之而暢神的詩意棲居之所。也正是在此意義上，我們稱宗炳是中國繪畫史早期最優秀的山水畫家。
當然，除了宗炳以外，中古時期的戴逵、張僧繇、夏侯瞻、王微等人也有山水畫創作的記載。不過這若幹畫家有一個共同的特點，就是都突出山水畫不是自然的死板摹畫，而是應抒寫一己之性靈與感情。顯然，這種文人畫思潮的概貌由宗炳是可以得到基本揭示的，故此便不贅述。