在這期間，叛軍內部出現了混亂。玄宗逃離長安以後，安祿山派他的大將孫孝哲領兵開進長安，開始了燒殺搶掠，對向他投降的唐朝大臣，都封地封官。一時間，安祿山的氣焰十分囂張，加上在軍事上取得的進展，形成了一支強大的割據勢力。被勝利衝昏頭腦的他開始了窮奢極欲的生活，他的性情越來越暴躁，對伺候他的人稍微感到不合意，就用鞭子抽打或者殺死。
安祿山的大兒子叫安慶緒，照規矩將來應當由他來繼承安祿山的“皇位”。可是安祿山嫌他窩囊，想傳位給最寵愛的兒子安慶恩。這一來，安慶緒時常害怕安祿山會處死他，但一時又想不出保全自己的辦法。
至德二年（757）正月的一個晚上，安慶緒和謀臣嚴莊合謀，趁安祿山睡覺之時，結束了這個“小醜”的性命。第二天一早，嚴莊就公開宣布：安祿山暴病身亡，由安慶緒即皇帝位。這一年，唐肅宗任命他的兒子李俶為元帥，郭子儀為副元帥，率領唐軍以及從回紇等地借來的軍隊共15萬人，發動反攻，收複了長安，進軍到洛陽。安慶緒逃到鄴城（今河南安陽）。60萬唐軍從各路集結，開到鄴城附近地區，對鄴城形成包圍的態勢。
安慶緒領兵出戰，被郭子儀等連連擊敗。他隻得回城堅守，並派人到範陽向史思明求救。史思明大軍抵達鄴城，解了安慶緒之圍，引狼入室的安慶緒對史思明感激不盡。但沒想到史思明趁機殺死了安慶緒和他的幾個大將大臣，還把他的土地和軍隊兼並過來，自稱“大燕皇帝”。
史朝義是史思明的大兒子，從小跟隨史思明用兵打仗，為人圓滑，善籠絡人心，所以得到許多將士的擁護。可是史思明不喜歡他，想立小兒為“太子”，並且常常漏出風聲，想殺掉史朝義。史朝義聽說以後，時刻提心吊膽，慢慢也就起了謀反之心，覺得還是自己先下手為強。唐上元三年（761），史思明領兵攻占了洛陽。接著他派史朝義做先鋒，繼續進犯。史朝義在西征中吃了幾次敗仗，史思明非常生氣，恨恨地說：“等攻下了陝州，我一定要殺了這個無能的小子！”一天晚上，史思明駐紮在一個叫轎驛的地方，命心腹曹將軍帶兵警衛。想不到，史朝義早已買通了曹將軍，他們闖進驛館，將史思明抓起來，隨後把他絞死了。史朝義繼承了帝位。但他害怕有人不服，就又派親兵到範陽將史思明的小兒子史朝清和史朝清的幾十個親信都殺了。雖然這樣，那些反對史朝義的勢力並不肯善罷甘休，他們跟擁護史朝義的勢力又打了起來，兩派你爭我奪，鬥了幾個月，雙方死了幾千人。最後史朝義雖然穩定了大局，但經過這段時間的內訌，叛軍的實力大大減弱，也越來越不得人心了。