汉魏晋是我国散文迅速发展的时期。
汉初，政论散文有所发展。贾谊（前200—前168年）是西汉初年杰出的文学家，他的文章《过秦论》总结了秦代灭亡的原因，汲取了秦末农民起义的教训，发展了先秦的民本思想。他的散文善用比喻，语言富于形象性。除贾谊外，汉初还有不少散文家，他们的文章大多或论秦之得失，或针砭时弊，提出自己的主张，其中以晁错和邹阳成就较高。晁错以主张募民备塞的《守边劝农疏》《论贵粟疏》两篇散文著名。
汉武帝时，罢黜百家，独尊儒术，封建王朝迫切需求总结古代文化，给予大一统的统治局面以哲学和历史的解释，司马迁的《史记》应运而生。它的出现将先秦历史散文又大大向前发展了一步。在《史记》的影响下，东汉产生了不少历史散文著作，班固的《汉书》便是其中的杰出代表。
汉代出现了一种新的文体“赋”。赋的名称始于战国赵人荀况的《赋篇》，到后代形成了特定的体制。讲究文采、韵节，兼具诗歌和散文的双重性质。接近散文的称“文赋”，接近于骈文的称“骈赋”。汉初贾谊的《吊屈原赋》《鸟赋》，司马相如（前179—前118年）的《子虚赋》《上林赋》，西汉末年杨雄（前53—18年）的《甘泉赋》《羽猎赋》《长杨赋》《河东赋》，班固的《两都赋》，东汉张衡（78—139年）的《二京赋》，都是汉赋的名篇。
魏晋南北朝时期，骈文盛行，散文衰落。但在郦道元的《水经注》和杨衡之的《洛阳伽蓝记》等学术著作中仍有一些质朴的叙事、抒情、写景的优美文字。