当察罕报聘使人到了应天之后，宁海人叶兑献书元璋，指陈平定天下大计说：
愚闻取天下者必有一定之规模：韩信初见高祖，画楚、汉成败；孔明卧草庐，与先主论三分形势是也。今之规模，宜北绝李察罕，南并张九四，抚温、台，取闽、越，定都建康，拓地江、汉，进则越两淮以北征，退则画长江而自守。夫金陵古称龙蟠虎踞帝王之都，借其兵力资财，以攻则克，以守则固，百察罕能如吾何哉！江之所备，莫急上流，今义师已克江州，足蔽全吴，况自餘、和至广陵，皆吾所有，匪直守江，兼可守淮矣。张氏倾覆可坐而待。淮东诸郡，亦将来归。北略中原，李氏可并也。今闻察罕妄自尊大，致书明公，如曹操之招孙权。窃以元运将终，人心不属，而察罕欲效操所为，事势不侔。宜如鲁肃计，定鼎江东，以观天下大衅，此其大纲也。至其目有三：张九四之地，南包杭、绍，北跨通、泰，而以平江（今吴中区）为巢穴。今欲攻之，莫若声言掩取杭、绍、湖、秀，而大兵直捣平江，城固难以骤拔，则以销城法困之。于城外矢石不到之地，则筑长围，分命将卒，四面立营，屯田固守，断其出入之路，分兵略定属邑，收其税粮以赡军中，彼坐守空城，安得不困！平江既下，巢穴已倾，杭、越必归，余郡解体，此上计也。张氏重镇在绍兴，绍兴悬隔江海，所以数攻而不克者，以彼粮道在三斗江门也。若一军攻平江，断其粮道，一军攻杭州，断其援兵，绍兴必拔。所攻在苏、杭，所取在绍兴，所谓多方以误之者也。绍兴既拔，杭城势孤，湖、秀风靡，然后进攻平江，犁其心腹，江北余孽，随而瓦解，此次计也。方国珍狼子野心，不可驯狎，往年大兵取婺州彼即奉书纳款，后遣夏煜、陈显道招谕，彼复狐疑不从，顾遣使从海道报元，谓江东委之纳款，诱令张昶赍诏而来，且遣韩叔义为说客，欲说明公奉诏。彼既降我，而反欲招我降元，其反复狡狯如是，宜兴师问罪。然彼以水为命，一闻兵至，挈家航海，中原步骑，无如之何。夫上兵攻心，彼言宁越既平，即当纳土，不过欲款我师耳。攻之之术，宜限以日期，责之归顺，彼自方国璋之没，自知兵不可用，又叔义还称义师之盛，气已先挫，今因陈显道以自通，正可胁之而从也。事宜速，不宜缓，宣谕之后，更置官吏，拘其舟舰，潜收其兵权，消未然之变，三郡可不劳而定。福建本浙江一道，兵脆城陋，两浙既平，必图归附，下之一辩士力耳。如复稽迟，则大兵自温、处入，奇兵自海道入，福州必克，福州下，旁郡迎刃解矣。声威既震，然后进取两广，犹反掌也。
说得头头是道，元璋心服，要留用他，不肯，力辞去。后几年平定东南和两广的规模和次第，果然和他所说的差不多。
小明王从称帝以来，徒拥虚名，一切军政大事都决于刘福通。诸大将原来和福通同时起事，拥兵在外，不听调度，兵虽强盛，威令不行，得地虽多，却不能守。从三路出兵以后，转战万里，兵多走死，余党又被察罕帖木儿和孛罗帖木儿所消灭。只剩山东一部分军力，掩护安丰。到益都被扩廓包围后，刘福通亲自引大军援助，大败走还。益都破，安丰势孤，龙凤九年（1363）二月张士诚将吕珍乘机攻围安丰，城中粮尽援绝，小明王危迫，告急于元璋求救。
在元璋赴救前，刘基力谏，以为大兵不应轻出，若救出小明王来，发放何处？作何安顿？是自做头目，还是让给他？而且陈友谅虎伺于后，如乘虚来攻，便进退无路。元璋则以为安丰破，应天失去屏蔽，孤立可虑。士诚日益坐大，将不可制。不听劝告，亲自统兵赴援，刘福通突围，乘黑夜疾风暴雨奉小明王居滁州。三月十四日降制赠元璋曾祖考为江南等处行中书省右丞上护军司空吴国公，祖考为江南等处行中书省平章政事上柱国司徒吴国公，考为开府仪同三司录军国重事平章右丞相吴国公，妣皆吴国夫人。
元璋于三月间赴援安丰，陈友谅果然乘虚进攻，于四月大举围洪都（南昌），并分兵陷吉安、临江、无为州。他这次因疆土日蹙，气愤不过，大治楼船数百艘，都高数丈，饰以丹漆，每船三重，置走马棚，上下人语声不相闻。橹箱皆裹以铁。载家属百官，空国而来，兵号六十万，用全力攻南昌。守将朱文正率将士誓死固守，友谅用尽攻城的方法，被围八十五日。到七月元璋亲率二十万大军来救，友谅才解围，东出鄱阳湖迎战。
这一战决定了两雄的命运，两军的主力前后大战三十六日。在会战开始的前四天，元璋先在鄱阳湖出长江的口子安置了几道伏兵，把湖口封锁了，堵住友谅的归路。两军的形势，友谅军号六十万，元璋二十万。友谅联巨舟为阵，楼橹高十余丈，绵亘十余里，旌旗戈盾，望之如山。元璋方面都是小船，相形见绌。论实力和配备都是元璋方面吃亏。却也有占便宜处：第一，友谅军攻围南昌三月不下，空国而来的必胜信念已经动摇，元璋却是千里赴援，决存亡于一战，士气大不相同。第二，友谅船大，又联结为阵，不便转动。元璋船小，操纵自如，在体积上吃亏，在运动上却占优势。第三，元璋善于统率，将士上下一心，人人效死。友谅多疑暴躁，将士自危，内部发生裂痕，不但不肯力战，反而解甲投顺。第四，交通线被封锁，元璋军队数量少，有南昌和后方接济，友谅军则鏖战数月，粮尽士疲，军无斗志。血战三十六日，友谅终于身死军歼。
元璋军主要的战术是火攻：一种方式是用火炮，焚烧敌方大船；另一种是用火药和芦苇装满七条船，用敢死士操船，冲入敌阵，纵火焚舟，和敌方的几百条战舰同归于尽。接战时分舟师为十二队，火器弓弩，以次排列，在接近敌人时，先发火器，次用弓弩，最后是短兵接战。全军踊跃死战，友谅军大败，他的左右金吾将军率部来降，军又乏粮，只好冒死突围，打算冲出湖口。元璋军从后用火舟火筏冲击，前面伏兵迎头截击，友谅中流矢死，其部将以其子理奔武昌。
元璋完成歼灭战后，对刘基说：“我真不该到安丰，假如友谅趁我出去，应天空虚，顺流而下，直捣建康，我进无所成，退无所归，大事去矣。幸他不进攻建康，而围南昌，南昌坚守三月，给我以充分的机会，一战功成。这战虽然打胜，却是够侥幸的了。”
友谅败死，劲敌已除。龙凤十年（元至正二十四年，1364）正月，元璋遂自立为吴王，建百官。以李善长为右相国，徐达为左相国，常遇春、俞通海为平章政事，立子标为世子。二月亲帅军征武昌，陈理降，汉、沔、荆、岳皆下，立湖广行中书省，分兵抚定诸未下郡县。到这年年底，友谅疆土，东至赣州，西到辰、澧，南到韶州，都为元璋所有。
元璋既灭汉，第二个目标是讨张士诚。张士诚在前一年九月称吴王。两雄接境，前后相隔不过三个月，都称吴王，这中间也有一个故事。原来几年前民间有一个童谣说：“富汉莫砌楼，贫汉莫砌屋；但看羊儿年，便是吴家国。”张士诚和朱元璋的领土都是从前吴地，为着应这童谣，这两雄便先后都称吴王。
元末群雄可分作两个系统：一是红军系，二是非红军系。红军系分东、西两支：东支从小明王到郭子兴、朱元璋；西支从徐寿辉到陈友谅，以及寿辉别部割据川陕的明玉珍。非红军系如吴张士诚，浙方国珍。红军系有政治理想，有民族思想，和元政府势不两立，绝不妥协。从韩、彭起事到朱元璋建国，始终和元政府作战。非红军系相反，他们起事，只为了个人的动机，政府招抚的条件合适就投降，政府也就承认既成事实，任为占领地区的军政首长，投降后对政府要求不能满足，就再度叛变，每反复一次，他们的地位和地盘都有变化。
张士诚时叛时降，到龙凤九年（1363）九月复自立为吴王。所据地南抵绍兴，北逾徐州，达于济宁之金沟，西有汝、颍、濠、泗，东到海，有地两千余里，有兵数十万，据有全国最富饶的一角。士诚为人持重寡言，无远图。既据有吴中，户口繁盛，物产丰富，渐渐奢纵，怠于政事。诸大将也聚敛财物，日夜歌舞自娱，上下穷奢极侈，不以军务为意。从龙凤二年（1356）起和元璋接境，便互相攻伐。士诚多少次进攻常州、江阴、建德、长兴、诸全（诸暨），都得不到便宜。元璋进攻湖州、绍兴、杭州，也是不能得手。到武昌还师以后，西线已无问题，这才集中军力，进攻士诚。
元璋对张士诚的攻势分作三个阶段：
第一个阶段起于龙凤十一年（1365）十月，目标是士诚北境淮东区域，到十二年（1366）四月间，半年工夫把泰州、高邮、淮安、濠、徐、宿、安丰完全占领，使士诚的军力局促于长江之南。
第二个阶段起十二年（1366）八月，兵分两路攻湖州、杭州，切断士诚的两臂，到十一月间湖州、杭州投降，形成北、西、南三面包围的局势。
第三个阶段起十二年（1366）十二月包围平江，到十三年（1367）九月克平江，执士诚，前后一共十个月。
在第一个阶段攻势顺利收到战果以后，龙凤十二年（1366）五月二十一日，元璋以檄文列数士诚罪状，在这檄文中说明元末形势，和自己起兵经过，不但攻击元政府，连红军也被斥为妖术、妖言了。檄文说：
皇帝圣旨，吴王令旨：近睹有元之末，王居深宫，臣操威福，官以贿成，罪以情免。宪台举亲而劾仇，有司差贫而优富，庙堂不以为忧，方添冗官，又改钞法。役数千万民，湮塞黄河，死者枕藉于道，哀苦声闻于天，致使愚民，误中妖术，不解偈言之妄诞，误信弥勒之真有，冀其治世，以苏其苦，聚为烧香之党，根据汝、颍，蔓延河、洛。妖言既行，凶谋遂逞，焚**城郭，死戮士夫，荼毒生灵，无端万状。元以天下兵马钱粮大势而讨之，略无功效，愈见猖獗，终不能济世安民。是以有志之士，旁观熟虑，乘势而起，或假元氏为名，或托香军为号，或以孤军独立，皆欲自为，由是天下土崩瓦解。余本濠梁之民，初列行伍，渐至提兵，灼见妖言，不能成事，又度胡运，难与立功，遂引兵渡江。
以下列数士诚罪状。檄文声讨张士诚，却跑出题外，攻击元政府还可说，连培养自己的红军也牵涉了，一笔抹杀红军的革命意义，指斥其杀人放火，罪大恶极。使人看了以为这檄文必出于非红军系统的手笔。显然这是刘基、宋濂这一儒生系统的策略，他们过去几年的努力，到这时才具体化，一脚踢开红军，自建一新系统，以求获得地主与巨绅的支持、士大夫的同情。这一檄文把元璋的一生划为两段，过去他是贫农和穷人的领袖，此后则是地主、巨绅的保护人；过去他一力破坏现状，此后则一转而为最保守的现状维持派了。
红军的宣传和教义都被这一纸檄文所打倒，红军最高领袖宋皇帝小明王兵将都无，放在滁州，毫无作用，自然也该跟着淘汰。这年年底元璋派廖永忠到滁州接小明王到应天，船到瓜步，在江心把船凿沉，永忠径回应天复命。小明王、刘福通死，宋亡。
第二个阶段的攻势，所用军力达二十万人。统帅是大将军徐达，副将军常遇春。在出师前商讨战略，常遇春力主直捣平江，以为巢穴既破，其余诸郡可不劳而下。元璋却决定采取叶兑的决策，他说：“士诚起自盐枭，和湖、杭诸州守将都是愍不畏死之徒，相为手足。如先攻平江，湖、杭必然齐心并力来救根本，军力集中，不易取胜。不如先分其势，枝叶既去，根本动摇，使士诚疲于奔命，必然可以成功。”于是分兵攻湖州、杭州。元璋亲御戟门誓师，申诫将士以城下之日，毋杀掠，毋毁庐舍，毋发丘垄。士诚母葬在平江城外，毋侵毁。
第三个阶段攻势用叶兑的销城法，筑长围把平江团团围住，士诚外无救兵，突围又不成功。城破后被执到应天，自缢死。
士诚晚年不理政事，国事全交给其弟丞相士信，士信荒**无识，信用叶、蔡、黄三个参谋，三人弄权舞弊，以致国事日非。元璋听得这情形，就说：“我向来无一事不经心，尚被人欺；张九四一年到头不出门理事，岂有不败的道理！”士诚的百姓也有一个民谣：“丞相做事业，专凭黄菜叶；一朝西风起——干瘪！”
平江合围后，元璋又遣将讨方国珍。
国珍在群雄中最先起事。他是黄岩人，世以贩盐、浮海为业。至正八年（1348）被仇人告他和海盗通谋，几兄弟杀了仇人，逃入大海，集结了几千人，四处抢劫。地方官发兵追捕，吃了败仗，官也给他俘虏了，只好招安，授定海尉，不久又起兵造反，元兵又吃败仗。统帅被俘。只好再度招安，授以大官，国珍也就听命。如此时降时叛，反复一次，官高一次，到至正十五年（1355）一直做到浙江行省参知政事，开治所于庆元（宁波），兼领温、台，全有三州之地。
元都北平，粮食仰给于东南，平均每年由海道运粮三百万石。东南乱起后贡赋不供，京师缺食。好容易张士诚、方国珍都归附了，士诚有粮，国珍有船，经过多次接洽，由国珍每年替政府运粮十几万石，元因累进国珍官为浙江行省左丞相衢国公。到至正二十三年（1363），士诚和元政府闹别扭，不肯再供给粮食，海运由此停止，给元政府以极严重的打击。
元璋攻取婺州后，和国珍邻境相望，国珍为人狡猾反复，在地理上北有张士诚，西有元璋，南有陈有定，三面受人包围，见元璋兵盛，不敢多树敌人，只好卑辞投顺，同时受元官爵，替元运粮，两面讨好。到元璋攻取杭州后，国珍更加害怕，北通扩廓帖木儿，南联陈有定，打算结成掎角的形势，和元璋对抗。倚仗着有多数海船，事急时奔入大海，一逃了事。
元璋的攻势分水陆两路：陆路军进克台州、温州，直逼庆元；国珍逃入海中，又为水军所败，穷蹙无法，只好哀辞求降。从进攻到凯旋，前后不过三个多月。
五、南征和北伐
当元璋遣将平定方国珍的时候，同时决定了南征和北伐的大计。
元璋的领土，大体上据有现在湖北、湖南、河南东南部、江西、安徽、江苏、浙江。中部最繁盛、人口密度最高的区域，恰好把元帝国切断作南北两块。
南部除元璋以外，分作几个势力：以四川为中心的有夏国明玉珍，原是西系红军徐寿辉的部将，略地入蜀，得寿辉被弑的消息，自立为陇蜀王，以兵塞瞿塘，不与陈友谅通。至正二十二年（1362）即皇帝位于重庆，国号夏，建元天统。二十六年（1366）玉珍死，子昇嗣位，是一个十岁的孩子。
云南有元宗室梁王镇守。两广也是元朝的势力范围。福建陈有定虽然跋扈，仍矢忠于元。
夏主幼弱，云南太远，暂时可以放开，成问题的是福建和两广。
北部在表面上都属于元朝，可是情形更复杂。大概地说，山东是王宣的势力范围，河南属扩廓帖木儿，关、陇则有李思齐、张思道诸军。扩廓和李、张不和，当元璋用兵江、浙的时候，他们正在同室操戈，拼个你死我活。目的是争军权，抢地盘，长期混乱的内战和政变，谁也管不到大局，各人都在想先把内敌消灭，统一军权，再来对付外敌，两方势均力敌，相持不下，正如鹬蚌相争，便宜了渔翁。朱元璋趁机会东征西讨，扩大地盘，充实实力。等到敌人兵临城下，这几“内战英雄”才停止残杀，却又不甘合作，听任友军被个别击破，终之同归于尽，国亡家破。
元军的内讧可以追溯到几年以前。
红军起事后，政府军队完全无用，真正有作战能力的是由地主、巨绅所组织保卫乡里的义军。义军中最强的有两支：一支是起自沈丘的察罕帖木儿、李思齐，几年中连定河北、关、陕，复汴梁，定河南，檄书达江、浙，以兵分镇关、陕、荆、襄、河、洛、江、淮，屯重兵太行，正预备大举恢复山东时，和另一支义军发生冲突。
另一支是以义丁恢复襄阳的答失八都鲁，接着克复亳州，和刘福通作战有功。答失八都鲁死，子孛罗帖木儿领其众，移镇大同。晋、冀之地都由察罕帖木儿平定，察罕东征，孛罗帖木儿要强占晋、冀，两军交战几年，政府几次派人讲和调停，至正二十一年（1361）冬，双方才答应罢兵。察罕被刺，子扩廓领兵平山东，孛罗帖木儿又来争晋、冀，内战又起。
同时元政府和宫廷间也发生重大的政变。名相脱脱贬死，幸臣哈麻代其位。哈麻做了宰相，天良发现，觉得从前进西天僧，劝帝行秘密法，都不是见得人的事。阴谋废帝立太子，事发被诛死。太子母奇皇后和太子也不满意顺帝，仍旧阴谋废立，派宦官朴不花和丞相太平接洽，太平不肯，太子恨太平不肯帮忙，把他害死。这时扩廓帖木儿正和孛罗帖木儿相持不下。于是太子派丞相搠思监和朴不花倚扩廓为外援，皇帝派老的沙则为太子所痛恨，逃奔孛罗军中。太子怨孛罗收容老的沙，搠思监、朴不花等就诬害孛罗帖木儿和老的沙图谋不轨。至正二十四年（1364）四月诏命扩廓帖木儿出兵讨伐，孛罗知道这命令不出于顺帝之意，先发制人，举兵向阙。皇帝派只好杀搠思监、朴不花谢罪，孛罗才回大同。太子失败逃出，再征扩廓军讨孛罗，进攻大同。孛罗还是老文章，又举兵进攻都城，太子战败，逃到太原。孛罗入都，拜中书右丞相。二十五年（1365）太子又调扩廓及诸路兵进讨。孛罗战败，被刺死于宫中，战事算是结束了，扩廓入都代为丞相。
太子奔太原时，打算用唐肃宗灵武故事自立为帝，扩廓不从。到扩廓入都城时，奇皇后授意，令以重兵拥太子入城，逼顺帝禅位，扩廓又不肯。因之，太子母子都深恨扩廓，结了仇。
至正二十六年（1366），扩廓奉令统率全国军队，平定江淮。檄令关中四将会师大举。李思齐得檄大怒说：“我和你父亲同起义兵，名位相等，你一个小孩子，乳臭未干，敢命令我！”下令部下一甲不得出武关，张思道、孔兴、脱列伯三军亦不受节制。扩廓无法，只好把南征一事暂且搁起，西入关攻李思齐，思齐等四人也会兵，盟于含元殿旧基，并力拒扩廓，相持经年，数百战未能决。顺帝再三令扩廓罢兵南征，扩廓不听。恰巧扩廓部将貊高部兵多孛罗旧部，胁貊高叛，声讨扩廓。顺帝心忌扩廓兵权太重，太子又从中挑拨，廷臣也上章攻击扩廓跋扈，顺帝乃下诏解除扩廓兵权，分其兵隶诸将，置抚军院，以太子统率全国军马，专备扩廓。
元璋派人侦探元政府和元军内讧的详细情形，决定趁机会南征、北伐同时并进。十月以徐达为征虏大将军，常遇春为副将军，率师二十五万，由淮入河，北伐中原。胡廷瑞为征南将军、何文辉为副将军取福建。湖广行省平章杨璟、左丞周德兴、参政张彬取广西。
取福建兵分三路：胡廷瑞、何文辉率步骑从江西度杉关为正兵，汤和、廖永忠由明州（宁波）以舟师取福州为奇兵，李文忠由浦城攻建宁（建瓯）为疑兵。有定的根据地延平（南平）和福州掎角，建宁则为延平外线据点，驻有重兵。三路大军分别出发，正兵使敌人以主力应战，奇兵使敌人不测所以，疑兵分敌人兵力。
陈有定，福清人，徙居汀州清流，农人出身，沉勇喜游侠，轻财好义，颇为乡里所畏服。地方寇乱，投军立功平贼，友谅遣将入闽，有定击败之，悉复所失郡县，元授官福建行省参知政事，不久又分省延平，以有定为平章，尽有八郡之地，威福自擅，威震八闽，对元朝始终恭顺，年年由海道运粮食到大都，恪尽臣节。元璋克婺州后，就和有定接境。至正二十五年（1365）二月，有定进攻处州，为参军胡深所败，深乘胜追击，连下浦城、松溪，元璋调度江西驻军南下，两路会师，准备一举而下八闽，胡深兵败被俘，为有定所杀，平闽计划因之暂缓实现。
方国珍降后，战胜的舟师就趁势南下，有定和元朝本部隔绝，孤立无援，只好分兵固守，慷慨誓众，以死报国。福州、建宁相继失守，延平被围，城破，有定和僚属诀别，服毒自杀不死，被俘到应天，元璋责备他攻处州，杀胡深。有定不屈，厉声回说：“国破家亡，死就算了，何必多说！”和他的儿子一起被杀。
从出兵到克复延平，一共费时四月。从克复延平到平定全闽，又费了八个月工夫。
平定两广的战略，也是兵分三路：第一路杨璟、周德兴、张彬由湖南取广西；第二路陆仲亨由韶州捣德庆；第三路是平闽舟师，以廖永忠、朱亮祖统领，由海道取广州。第一路军于至正二十七年（1367）十月出发，第二、三路军于洪武元年（1368）二月出发，所遇抵抗以第一路军最烈。由衡州入广西的进军路线，第一个名城永州（零陵），第二是全州，都经激烈血战才能占领。时宝庆、武冈犹为元守，为了免除后顾之忧，也次第分兵攻下，军锋直指靖江（桂林）。第二路军于三个月内平定北江和西江的三角地带，英德、清远、肇庆、德庆、连江都归掌握，隔断广州和靖江间的交通。第三路军几乎是兵不血刃，廖永忠在福州奉命后，先派人向元江西分省左丞何真劝告投降，行军到潮州，何真即遣使上印章、图籍、户口，奉表归附。广州附近州县都不战而下。沿西江入广西，梧、容、藤诸州以次降顺，北上会合第一军围攻靖江。合围两月，洪武元年（1368）六月靖江城破，七月广西平。两广俱归入版图。