西晉滅亡，北人南渡，東晉建立前後，收複故國的聲音一直在晉國愛國誌士中回**，一次次北伐，都因東晉朝廷內部的種種原因而失敗。但在收複故國報仇雪恥的呼聲中，卻湧現出了一個個鮮活的形象。
最先開始北伐，並取得相當成就的是我國曆史上傑出的愛國誌士祖逖。祖逖，字士稚，範陽遒縣人。其父祖武，任過上穀太守。父祖去世時，祖逖還小，他的生活皆由幾個兄長照料。祖逖生性活潑、開朗，好動不喜靜，都十四五歲了，也讀不進書去。但祖逖為人講義氣，好打抱不平，有時還常常以兄長的名義，把家裏的穀米、布匹捐給當時受災的貧苦百姓，盡管他的兄長們並不是很願意。
在十八九歲的時候，祖逖突然一反常態，開始發憤讀書，隻四五年，就能將所讀融會貫通，博覽古今。從此，人們也開始對他刮目相看。祖逖24歲時，任司州主簿。這時他結識了漢朝宗室中山靖王劉勝的後代劉琨。
兩人的官職都不大，年齡又相仿，因為意氣相投，就成了好朋友。他們經常一起談論時事，希望將來能夠建功立業，報效國家。他們時常談至半夜，最後索性同床抵足而臥。後來兩人相約，每到雞叫時，天還沒亮，就一同起床在院子裏練習武藝，以為將來做準備，這也就是後來“聞雞起舞”的典故。
不久，八王之亂爆發。公元311年，漢國大將王彌、劉曜攻陷洛陽，晉懷帝被俘，晉太子銓及官吏、百姓三萬多人被殺，並縱兵搶掠，焚燒宮室、廟宇，挖掘陵墓，洛陽之地成為廢墟。而此時的祖逖正帶領親族、鄰裏總共幾百家人向南方逃避。一路上，祖逖將自家的糧食、衣服、藥物都拿出作為公用，並讓老人和病人坐到自家的馬上，自己則步行前進。路途中遇到散兵遊勇或土匪的騷擾，他就帶人去將他們打退。時間一久，他就自然地成了這支逃難隊伍的“總指揮”。最後一行人幾經輾轉，才到達了淮泗。