在曹操以武力逐漸統一長江以北時，江東地區的孫堅、孫策父子也開始崛起。孫堅，字文台，吳郡富春（今浙江杭州）人，是一員智勇雙全的虎將。孫堅十七歲時，曾隨父親乘船去錢塘，路上正遇見一群海盜掠奪商人的財物。駕船人畏懼海盜，不敢前進。孫堅小小年紀，卻操刀上岸，佯作指揮大隊士兵包剿的模樣。海盜遠遠望見，以為是官兵來捕，不敢對抗，紛紛舍棄財物，往海岸奔逃。孫堅於是帶著幾名隨從追上前去，將落在最後的海盜砍死，提著海盜的首級歸來。就這樣，孫堅出了名，很多人都佩服他的機智果敢。
漢靈帝熹平元年，即公元172年，會稽郡發生了道教徒許生的起義，許生自稱陽明皇帝，鄰近各縣農民多有響應，人數超過萬人。當時的孫堅正任吳郡司馬，他招募精勇壯丁千餘人，與州郡官兵聯合，一起鎮壓了許生的起義。此後，孫堅相繼為鹽瀆、盱眙、下邳三縣縣丞，由於他出身地方豪強，所以官職都不是很高。漢靈帝中平元年，即公元184年，我國曆史上第一次有組織的大規模農民起義——黃巾起義爆發了。漢靈帝派遣皇甫嵩、盧植、朱儁等將領率軍鎮壓。朱儁以孫堅為佐軍司馬。孫堅招募鄉裏少年與商旅及淮、泗精兵千餘人，跟隨朱儁一同征戰，積功升至別部司馬。不久，在涼州的邊章、韓遂趁黃巾之亂起兵，漢朝廷派中郎將董卓征討，結果無功而返。漢中平三年，何進又派司空張溫前往涼州進行鎮壓。
張溫以孫堅為參軍出兵涼州，邊章與韓遂知道後，不戰而退。張溫見邊章與韓遂已退兵，便班師回朝，升孫堅為議郎。此時，長沙郡又發生了以區星為首的起義，漢朝廷就以孫堅為長沙太守，到長沙去鎮壓區星和其他農民起義軍。孫堅平長沙後，被封為烏程侯。