劉裕，即日後的宋武帝，字德輿，小名寄奴，其先祖是彭城人，後來遷居京口。出身貧寒，年輕時幹過力氣活，做過小買賣以賺錢養家糊口。
但動**的時代給了他機遇。在戰亂中，劉裕投身北府，因驍勇多智而被孫無終賞識。桓玄擊敗司馬道子後，清理北府名將，因當時劉裕有才而又身份低微，遂未被殺害，成為桓玄剪除劉牢之舊部後所重用的對象，劉裕的命運也自此發生了巨大的改變。
桓玄稱帝後，知道劉裕的軍事才能，一直想用他平定中原。當時有人對桓玄說：“劉裕龍行虎步，視瞻不凡，恐不為人下，宜早為其所。”桓玄卻回答：“我方欲平**中原，非劉裕莫可付以大事，關、隴平定，然後當別議之耳。”也就是說，桓玄並不是不想殺劉裕，隻是他知道，自己已經殺了北府舊將，此時能平定中原的就隻有劉裕一人。他不過是想在關、隴平定後再殺劉裕罷了。但就是桓玄這種心態，終於養虎遺患。
公元404年2月，劉裕以遊獵為幌子，與何無忌等收集部眾，聯合了魏詠之、檀道濟、周道民、田演等27人率眾起兵，重建北府，在京口、廣陵殺死了桓修和桓弘。自劉裕起兵後，桓玄知“劉裕為一世之雄”，故天天憂懼不安。不久，劉裕與吳甫之會戰於江乘，吳甫之戰敗被殺。接著，劉裕進軍至羅落橋，與桓玄部下皇甫敷激戰，劉裕軍愈戰愈勇，所向披靡，最後皇甫敷兵敗被斬。桓玄聽得戰報，派桓謙屯兵東陵口，卞範之屯覆舟山西，兵有兩萬。劉裕率其部飽食之後，將所有餘糧全部扔掉，以作破釜沉舟之計，輕裝上陣，進到覆舟山東，於山上遍插旗幟，作疑兵之計。雙方交戰後，劉裕鎮定自若，衝殺於前陣，於是，士兵無不殊死奮戰，以一當百，最終大破桓玄軍。
桓玄見大勢已去，留殷仲文守住石頭城，自己率子弟沿長江南下。劉裕擊敗桓玄，從而掌握了朝廷。隨後，劉裕追擊苟延殘喘的桓玄，在崢嶸州再次將其擊敗。桓玄不久在益州被殺，劉裕則又用了五到六年的時間剪除了桓氏的殘餘勢力。公元411年，劉裕又平定了長達10年之久的孫恩和盧循領導的五鬥米道暴動，長江以南由此得以平定。