袁绍官渡之战兵败逃回到冀州后，陆续平定了各处的叛乱。不久，袁绍发病，死于建安七年（202年）夏五月二十八日。由于袁绍平素有德政，去世之时，河北百姓没有不悲痛的，市里巷间挥洒着眼泪，如同失去亲人一般。
袁绍一死，就涉及继承权问题。袁绍有三个儿子，大儿子袁谭、二儿子袁熙、小儿子袁尚，袁绍继妻刘氏，独爱幼子袁尚，在袁绍还健在时，常在袁绍面前夸这个小儿子，而袁尚本身也是相貌堂堂，很受袁绍喜欢，袁绍有心栽培他为继承人，但众人欲立长子袁谭为继承人，逢纪、审配一向因为骄傲奢侈使袁谭反感，辛评、郭图都同袁谭亲近而与审配、逢纪有矛盾，审配等人害怕袁谭继位以后辛评等人为害自己，就假托袁绍的遗命，拥戴袁尚为继承人。
袁谭不能继位，于是自称车骑将军，驻屯黎阳。袁尚不给袁谭增兵，并派逢纪跟随，但之后因审配拒绝袁谭增兵的要求，而令逢纪被杀，二人更生嫌隙。
建安七年（202年），曹操攻打袁谭。袁谭向袁尚求救。袁尚害怕袁谭得到士兵后不还，留审配留守，自领士兵救援。同时派河东太守郭援、并州刺史高干、南匈奴单于栾提呼厨泉共攻河东，并与关中诸将马腾等人联合出兵。曹操派钟繇对抗，钟繇派张既劝说马腾支持。
马腾成功被说服，并派马超、庞德救援钟繇。钟繇趁郭援渡河时攻击，大破郭援。庞德更将郭援斩首。南单于见郭援被杀，主动投降。高干向曹操投降。
建安八年（203年），曹操攻取黎阳，大败袁尚和袁谭，二人退守邺城。曹操追击到邺城，并收割麦田。此时，曹军诸将都希望乘势消灭袁氏残余势力。曹操依从郭嘉之计，撤军任由袁尚与袁谭自相残杀。
袁谭对袁尚说：“我方铠甲不精，所以上次被曹操打败。眼下曹操撤退，人人想着回家，趁着他们没有过河，出其不意发兵进攻，可以彻底击溃曹军，这个计策不可失去。”袁尚因怀疑而没有同意，既不给袁谭增派兵力，又不给更换铠甲。袁谭大怒，郭图、辛评借此机会对袁谭说：“要将军的父亲把将军过继给哥哥做后代的，都是审配用来构陷您的。”袁谭觉得有道理，就率兵攻打袁尚，双方在外城城门交战，袁谭战败，就率领部队退回南皮。
别驾王脩率领官吏百姓从青州来援救袁谭，袁谭想回去再攻打袁尚，问王脩：“您有什么主意？”王脩说：“兄弟好比左右手，假如一个人准备同人格斗而弄断自己的右手，说‘我一定胜你’，像这样行吗？丢掉兄弟情分而不相亲，天下还有谁同他亲近？近来有人从中挑拨离间造成争斗，用来谋取一时的利益，希望您堵住耳朵不要听。要是杀掉几个阿谀奉承的手下，兄弟重新亲近和睦，来抵挡四方的敌人，可以横行天下。”袁谭拒绝；刘表亦写信给袁谭劝他与袁尚和好，但袁谭仍不接受。
袁谭部下刘询此时则在漯阴叛变，诸郡响应，唯独东莱太守管统抛弃妻儿到南皮支持袁谭。之后袁尚大举进攻，袁谭兵败退回平原。袁尚围城，袁谭于是派遣辛毗向曹操求援，但辛毗见曹操时反而建议曹操应以此机会吞并河北，曹操于是派大军攻袁尚，袁尚立即退兵回救邺城。此时袁尚部下吕翔、吕旷叛变归顺曹操，袁谭却暗中刻将军印绶意图招降他们二人。
曹操知道袁谭并非一心归顺自己，但为了不让袁谭再与袁尚联手，于是让其子曹整娶袁谭女儿为媳妇以安其心。曹操还封其为青州刺史。
建安九年（204年），袁尚再攻平原，命苏由、审配守邺，曹操攻邺，苏由欲叛，事败出逃。曹操破尹楷、沮鹄，韩范、梁岐、张燕投降，皆获封赏。袁尚得知邺城危急，率领一万余人回救邺城，命李孚入城通知审配联合攻击，但遭曹操迎面拦截，袁尚被击败，逃到漳水弯曲处扎下营寨，曹操又将其包围，尚未合围，袁尚害怕，派阴夔、陈琳求降，曹操不答应。袁尚只好回头逃奔蓝口，曹操再次进兵，很快包围了袁尚。袁尚的部将马延等人临阵投降，部众彻底溃乱，袁尚逃往中山。
曹操收得袁尚的辎重，获得袁尚的印绶、符节、斧钹和衣服物品，拿给城内的人看，城内守军沮丧崩溃。不久审配的侄儿审荣引兵入城，审配被斩。袁尚命牵招向高干求援，被拒绝，牵招投降曹操。
这里，还要交代另外两位人物的命运。
陈琳，字孔璋，建安七子之一，颇具文采，初为何进主薄，后避难冀州，袁绍让其掌管典籍文章，曾写了一篇《讨贼檄文》，这篇讨贼檄文，把曹操的“恶”描述得淋漓尽致，文笔和刀剑一般，笔笔都写得激**人心。哪怕不知道曹操的人，读了也会不由得对曹操心生厌恶。
这篇檄文对曹操的评价，只是片面的一小部分，毕竟讨贼檄文的目的是讨伐敌人，从而用来激昂军士斗志的，自然不会说曹操好话。但已经胜利的曹操对于曾经讨伐自己的陈琳却并没有“翻旧账”，只是开玩笑说：“你曾为袁本初写檄文，只管列举我的罪状就是了，为什么还要把我的父亲和祖父写上呢？”陈琳告罪，但曹操知道各为其主、身不由己的道理，便不予追究，后来，他因爱惜陈琳的才华，还命其为司空军谋祭酒。
然而，同样是投诚的许攸，就没有陈琳的好运了。
曹操攻破邺城后，占领冀州，许攸立有功劳，但许攸自恃功高，屡次轻慢曹操，每次出席，不分场合，直呼曹操小名，说：“阿瞒，没有我，你得不到冀州。”曹操表面上虽嘻笑，说：“你说得对啊。”但心里颇有芥蒂。一次，许攸出邺城东门，对旁人说：“这家人没有我，进不得此门。”有人向曹操告发，于是许攸被收押，最终被杀。
曹操在进入邺城后，还去祭拜了袁绍。
当天下午，曹操大宴群臣，众人不醉不归。次日一早，众人便在曹操的邀请下，来到一代霸主袁绍的墓前，进行祭拜。当然还有一个刘夫人，她是袁绍的妻子，至于甄夫人，她的身份有些微妙，此时已然是曹丕的夫人，曹操的儿媳妇。
得知曹操要去祭拜袁绍，从人很快准备了猪牛羊三牲，这是用“太牢”的规格前来祭祀，毕竟袁绍做过大将军，最主要的是袁绍曾经是曹操最要好的朋友。
袁绍的墓地在邺城西郊（今临漳县西）部，南面濒临黄河，西面靠着太行山，依山傍水，显示出一代霸主曾经有过的广阔胸襟，尽管袁绍昔日是曹操的对手，不过曹操的心里对袁绍很敬佩。曹操按照昔日的规格，在袁绍坟上亲手栽了一棵柏树，因为天子坟高三仞、植松树；诸侯半之，栽柏树。而他向袁绍倒酒的时候，仿佛看到少年袁绍英俊的面庞，顿时曹操热泪纵横。
在祭奠袁绍后不久，曹操下令归还在战争中缴获的袁绍的财物、奴仆，并用上好的米来赏赐给袁绍遗孀，此外还规定，袁绍家人的开销，由朝廷专供。并且考虑到战争对河北人民造成的巨大创伤，曹操亲自下令冀州百姓减免租税：河北罹袁氏之难，其令无出今年租赋。自此，河北之民无不感念曹操的恩惠。
在曹操包围邺城的时候，袁谭背叛曹操，趁机抄掠攻占了甘陵、安平、勃海、河闲，进攻在中山的袁尚。袁尚战败，逃到故安投奔袁熙。
建安十年（205年），袁熙部下焦触、张南叛变，袁熙和袁尚逃到乌桓。
建安十年（205年）正月，曹操兴兵进攻南皮，袁谭奋力抵抗，终于在曹操急攻之下战败，袁谭披头散发，死命打马逃跑，追赶他的虎豹骑士兵料想他不是一般人，加紧追赶。袁谭从马上掉了下来，回过头来说：“喂，放我过去，我能够使你富贵。”话没说完，头已落地。这时候曹操杀了郭图等人，将他们的妻子儿女也杀了。
建安十二年（207年），田畴帮助曹操偷袭柳城，袁熙、袁尚与蹋顿、辽西单于楼班、右北平单于能臣数万骑在白狼山遇到曹操大军。曹操大将张辽在白狼山之战斩杀蹋顿，袁尚又与袁熙带着几千亲兵投奔辽东的公孙康。
逃到辽东后，袁尚同袁熙商量说：“现在到辽东，公孙康必然见我，我一个人为兄长亲手杀了他，并且占领辽东，还可以用来扩大自己。”公孙康心里也打算捉住袁尚来邀功，就事先在马棚里面安排了精强勇猛的士兵，然后出来邀请袁尚、袁熙。袁熙心中起疑，不想进去，袁尚强迫他进去，袁熙就同他一道进去。还没来得及坐下，公孙康就喝使伏兵捉住他们，让二人坐在结冰的地上。袁尚对公孙康说：“没死的时候，忍受不了寒冷，能给我们坐席吗？”公孙康说：“你的头颅马上就要走万里路，要席子干什么用！”于是砍下二人的脑袋送给曹操。
自此，曹操经过二十年的南征北战，从陈留起兵，终于一统北方。