蒙古滾雪球式壯大，給帝國管理帶來巨大挑戰，也給汗位傳承帶來挑戰。蒙古繼承製是現任大汗在遺囑中指定下一任大汗，然後由宗王大會確認才有效。這種製度為蒙古汗係宗親之間爭奪汗位提供了借口。一旦上一任大汗沒留下遺囑，或者宗王大會不認同，或者宗王大會出現巨大分歧，汗位之爭就可能引發戰爭。
1257年，蒙古大汗蒙哥準備向宋朝發起戰略進攻。1258年，他命令阿蘭答兒輔佐最小的弟弟阿裏不哥留守首都和林，親自率軍進攻四川。同時，蒙哥命令塔察兒、張柔率軍進攻長江中遊地區；命令已經由大理攻入交趾的兀良合台率軍北上，從三個方向對宋朝形成圍攻。塔察兒作戰失利後，蒙哥命令忽必烈率軍繼續進攻長江中遊地區。
1259年7月，蒙哥在釣魚城下觀察地形時被擊中，受傷而死。他沒有遺囑指定大汗繼承人。蒙古宗王爭奪大汗之位的戰爭爆發——一部分宗王支持忽必烈繼任大汗，一部分宗王支持阿裏不哥繼任汗位，雙方勢均力敵，出兵相互攻打。忽必烈在親信八春、廉希憲、高挺等人支持下，分化阿裏不哥支持者，在甘州決戰擊敗阿裏不哥的主要支持者阿蘭答兒、渾海。阿裏不哥從此走向頹勢。西征獲得巨大勝利的宗王旭烈兀明確表態支持忽必烈後，原本支持阿裏不哥的很多宗王也轉向支持忽必烈。
1264年，阿裏不哥看到爭奪汗位無望，率領身邊的宗王和大臣到開平，與忽必烈會合，以避免蒙古帝國分裂。忽必烈和阿裏不哥麵對麵質問，進行一番理論。忽必烈問阿裏不哥：“你說，按照道理講，我和你，誰應該繼承汗位呢？”阿裏不哥回答說：“原來，我認為我是對的，現在呢，我認為大汗是對的。”忽必烈哭笑不得。他念及親情，下詔赦免阿裏不哥等成吉思汗後裔的諸王，一切既往不咎，將阿裏不哥的謀臣全部殺死。