在昏暗的東晉政治中，可稱得上傑出政治家的人，當是指揮淝水之戰取得勝利而名傳古今的謝安。謝安，字安石，陳國陽夏人，其父親謝裒，擔任過太常卿。謝安也深受晉代玄風影響，特別注重個人的修養與精神境界的追求。
謝安在20歲時，曾跑到名士王蒙那裏去談玄。當他離開後，王蒙的兒子王修問王蒙：“這個客人怎麽樣？父親好像很敬重他。”王蒙說：“他來勢不善啊，把我都逼得無路可走了。”因此，年輕時的謝安就已有了盛名。
謝安在40歲以前，一直隱居在會稽的東山，與王羲之、孫綽、許詢、支遁等人交往，徜徉在山水之間，過著悠哉遊哉、登高呼嘯、臨水賦詩的生活，拒絕出仕。朝廷、郡縣、藩鎮多次征召他為官，都被他拒絕，以致惹惱了朝廷，下令對他禁錮終身。但這條禁令無非是嚇嚇他而已，並未真正實行。謝安則對朝廷禁令毫不在意，反而樂得逍遙。
謝安縱情山水，卻並非完全忘卻現實。對現實政治，他有自己的看法，在精神生活上他亦有自己的追求。他追求瀟灑風流的風度，閑雅從容的性格，注意培養自己以靜製動的精神，以出奇的冷靜來對待變化不定的客觀世界。一次，謝安與孫綽等人共同乘船到海上遠遊。突然，海風大作，波洶浪高，以排山倒海之勢向海船壓了過來。此時，滿船的人都被嚇得臉色發白，而獨有謝安穩坐不動，吟嘯自若。船上的水手以為謝安是要繼續前進，就頂風逆航，船也顛簸得更加厲害。這時謝安才慢條斯理地說：“看來，我們隻怕是該回去了吧！”水手這才轉過舵來返航。謝安這種從容閑雅、遇事沉著冷靜的性格已成為他的一種生活習慣，正是這種“鎮之以靜”的處世原則，使他在後來複雜的政治生涯中取得了成功。
公元359年，謝安終於出仕了。當時謝安的弟弟謝萬為西中郎將，率兵抵抗燕軍進攻。而這個謝萬隻知談玄，不習軍務。後來在行軍中聽說敵人來犯，他拍馬就逃，造成大軍不戰而潰。事後朝廷追查責任，也隻是罷免謝萬官職而已。謝萬被廢黜對謝氏家族的威望影響很大。恰在這時，征西大將軍桓溫聘請謝安為征西司馬，已41歲的謝安於是就不得不出山了。