开创初期
晋室南渡，江南美丽的自然山水更吸引了士大夫们。当时盛行的玄学思潮把
儒家的“名教”与
道家的“自然”结合起来，引导士大夫们从自然山水中寻找人生的哲理与趣味。崇尚清淡之风也带来赞美山水隽语的发达（见
《世说新语》）。玄言诗中亦出现山水佳句。经过长期的多方面的酝酿，终于产生出第一位山水诗人，这就是晋末宋初的
谢灵运。
谢灵运长期优游名山胜境，写有大量的山水诗。其诗语言富丽精工，喜雕琢，追求形似。诗的结构往往是纪游式，末后总留有玄言诗的尾巴。他的诗往往是有句无篇。稍举一些诗句：“池塘生春草，园柳变鸣禽”之写园林；“野旷沙岸净，天高秋月明”之写秋；“明月照积雪，朔风劲且哀”之写冬；“林壑敛暝色，云霞收夕霏”之写暮色；“春晚绿野秀，岩高白云屯”之写春景。这些精美的诗句，如一幅幅精致的山水画。谢灵运确立了山水诗的地位。
随后，南齐诗人谢眺也写了一些清新流丽的山水诗篇，有些佳句：“余霞散成绮，澄江静如练”，“大江流日夜，客心悲未央”，“天际识归舟，云中辨江树”等。
南朝梁代诗人何逊也有些写景名句：“露湿寒塘草，月映清淮流”，“野岸平沙合，
连山远雾浮”，“岸花临水发，
江燕绕樯飞”，“江暗雨欲来，浪白风初起”，“夜雨滴空阶，晓灯暗离室”。但他们的诗作都存在有句无篇的毛病。
鼎盛时期
山水诗到王维和
孟浩然这里达到一个顶峰。经过魏晋谢灵运等人的开创，他们在形式美感的追求上下了很大功夫，到了王籍，又有新的开拓，乡间语依依的晚归农人和知音稀少的孤独跃然纸上，到了王维和孟浩然，首先是时代的发展，国之重诗，民之爱诗成为时代的潮流，魏晋南北朝的韵书和南北文风的综合已经起到一定的影响，等等。这些都为山水诗派的形成奠定了基础。
在古代文学史中占据了重要地位的是山水诗歌的鼎盛时期，这个时候拥有大批的作家和大批的优秀作品传世，至今我们还会记得其中的弹琴复长啸的王维，风流天下闻的孟浩然，等等。这个时期的山水诗主要有以下风格特色。
“神韵”与禅
唐代以王维为代表的山水诗派，在中国诗歌史上有着重要的地位。之所以如此说，是因为山水诗派的创作及其艺术精神，在很大程度上体现了中国诗歌的特质。
清代著名诗论家王士祯（渔洋）论诗“独以神韵为宗”（
《清史稿》卷266），标举“神韵”，作为其诗论体系的核心范畴。无论是否明确地使用这个概念，渔洋处处是以“神韵天然”作为评诗的价值尺度的。以他的“神韵”说来衡量诗史，最为符合渔洋审美理想的就是以王维、孟浩然为代表的唐代山水诗派的创作风格。在渔洋诗论中，对王维、孟浩然、常建等人创作，是非常推崇的。