不久之后，陈友谅杀害了他的主上徐寿辉，自称皇帝，国号汉，占领了江西、湖广的全部，并约同张士诚一起进攻应天，应天府内大为震动。众将商议，准备先收复太平，以牵制敌军。朱元璋说：“不行，他们占据着上游的地方，而且船只水师是我们的十倍，这是很难收复的。”也有人请求朱元璋亲自率领人马迎战。朱元璋说：“不行，他们用小股部队牵制我们，而大部队直奔金陵，顺流而下，只需要半天就可以到达，而我们的部兵和骑兵却很难及时返回。长途跋涉上百里去作战，是兵法的大忌，这不是最好的计策。”于是派快马通知胡大海，让他准备进攻信州，来牵制敌军的后方。又让陈友谅的旧友康茂才送书信给陈友谅，让他赶快来进攻。陈友谅果然带兵东进。朱元璋又命令常遇春在石灰山设下埋伏，徐达在南门外布阵，杨璟屯扎大胜港，而张德胜等人则率水军出龙江关，朱元璋亲自督军卢龙山。二十三日，陈友谅到达龙湾，众将都要去迎战，朱元璋说：“天就要下雨了，你们先赶快吃饱饭，然后我们乘雨迎战。”不久，果然天下大雨，将士们奋勇争先，雨停开战，水陆夹击，大败陈友谅。陈友谅坐小船才得以逃走。于是收复了太平，也攻下了安庆，同时胡大海也攻克了信州。
当初，朱元璋命令康茂才给陈友谅偷偷送去书信的时候，李善长十分不理解。朱元璋说：“二寇联合，我们就首尾受敌。只有让陈友谅先来，我们先全力打败了他，那么张士诚就闻风丧胆了。”后来张士诚果然没有出兵。
二十五日，朱元璋设儒学提举司，任命宋濂为提举，让儿子朱标学习经学。六月，耿再成在庆元击败石抹宜孙，石抹宜孙战死。朱元璋派使者前去祭奠。
秋九月，徐寿辉的旧将欧普祥投降朱元璋，并献上袁州。
冬十二月，朱元璋再次派夏煜送书信晓谕方国珍。
元至正二十一年（公元1361年）春二月初二，朱元璋设立盐茶课税。十七日，设立宝源局。三月二十六日，改枢密院为大都督府。元朝将领薛显献上泗州投降。二十七日，方国珍派使者前来感谢，井贡献金玉马鞍。朱元璋推辞说：“当今正是经营天下四方的时候，所需要的是人才，所使用的是衣食，宝玩不是我所喜好的。”秋七月，陈友谅的部将张定边攻陷了安庆。八月，朱元璋派遣使者去元朝平章察罕帖木儿那儿通好。当时察罕帖木儿平定了山东，降服了田丰，一时间军威大振，所以朱元璋与他通好。恰好察罕正在进攻益都，久攻不下。
朱元璋就亲自率领水陆大军征讨陈友谅。二十日，攻克了安庆，陈友谅的部将丁普郎、傅友德投降。二十四日，朱元璋到湖口，在江州追击陈友谅，攻克了江州城。陈友谅逃奔武昌。
后来朱元璋又分道巡行南康、建昌、饶、蕲、黄、广济等地，所到之处都收服了。
冬十一月十二日，攻克了抚州。
至正二十二年（公元1362年）春正月，陈友谅的江西行省丞相胡廷瑞投降并献上龙兴。八日，朱元璋到了龙兴，改龙兴为洪都府。然后拜谒孔子庙，诏告父老百姓，要废除原有的陈友谅的苛政，罢免了各种军需，抚恤贫穷无依靠的人，老百姓非常高兴。袁、瑞，临江、吉安等地也相继攻下。二月，朱元璋回到应天，派邓愈留守洪都。十七日，降将蒋英杀害了金华的守将胡大海，郎中王恺也死于此难中。叛将蒋英投降了张士诚。由处州投降而来的李祐之听说蒋英反叛，也杀害了枢密院判耿再成而反，都事孙炎、知府王道同、元帅朱文刚都被害。当月，明玉珍在重庆称帝，国号为夏。
夏四月初四，邵荣收复处州。十九日，徐达收复洪都。五月初二，派遣朱文正、赵德胜、邓愈镇守洪都。六月五日，察罕修书说，曾扣留我们的使者不让他们返回。不久察罕被田丰杀害。
秋七月十三日，平章邵荣、参政赵继祖准备谋反，事情败露被杀。
冬十二月，元朝派尚书张昶航海到庆元，授予朱元璋江西行省平章政事，朱元璋没有接受。察罕的儿子扩廓帖木儿写信要求归还使者。
元至正二十三年（公元1363年）春正月二十五日，朱元璋派汪河回信扩廓帖木儿。二月一日，命令将士屯田积累谷物。当月，陈友谅部将张定边攻陷饶州。张士诚部将吕珍攻破安丰，杀死了刘福通。三月一日，朱元璋亲自率领人马救援安丰，吕珍逃走。由于韩林儿到了滁州，于是朱元璋又回到应天。
夏四月二十三日，陈友谅大举进军，包围了洪都。二十六日，诸全的守将谢再兴叛变，归附了张士诚。五月，朱元璋修建了礼贤馆。
陈友谅分兵攻陷吉安，杀死了参政刘齐、知府朱叔华；攻陷临江，杀死同知赵天麟，攻陷了无为州，杀死知州董曾。
秋七月初六，朱元璋亲自出征救援洪都。
十六日，到达湖口，先在泾江口和南湖觜设下伏兵，又让信州的军士守住武阳渡。陈友谅听说朱元璋的兵到了，就解了洪都的围，而在鄱阳湖迎战朱元璋。陈友谅大军号称六十万，联结大船为船阵，船桅高达数十丈，绵延数十里不断，他的旌旗戈矛，远远望去就像山一样。
二十日，两军在康郎山相遇，朱元璋将军队分成十一个队加以抵御。二十一日，两军交战。
徐达攻击他们的前锋，俞通海用火炮焚烧了十几艘陈友谅的战船，双方的伤亡大致相当。
陈友谅的骁将张定边直冲着朱元璋的船而来，而朱元璋的船搁浅，不能后退，情形异常紧张。常遇春在旁边用箭射中张定边，俞通海也前来援助。由干船突然前进，水大量涌动，朱元璋的船才能脱险。二十二日，陈友谅率领大船倾鬃出动，而朱元璋的众位将士船只小，进攻极为不利，一个个面带恐惧。朱元璋亲自指挥，仍然不敢前进，于是杀了十几个退缩的人，大家才都奋勇战斗。到下午三时左右，刮起了东北风，于是朱元璋命令敢死队员乘坐七艘战船，用芦苇叶包上火药，纵火焚烧陈友谅的船队。火势凶猛，烟焰满天，映照得湖水一片红色。陈友谅军队因此大乱，诸将呐喊乘胜追击，斩杀了两千多人，陈友谅的汉军被烧死淹死者不计其数，陈友谅气势锐减。二十四日，双方再次开战，陈友谅又大败。于是他便收船固守，不敢再战。二十五日，朱元璋移军扼守左蠡，而陈友谅则退保诸矶。双方相持了三天，陈友谅的左、右两位金吾将军都投降了朱元璋。陈友谅的势力更为窘迫，非常愤怒，把俘获的将士垒部杀掉。而朱元璋则归还所有的俘虏，并且给受伤的人好药，同时祭奠他们死去的亲戚将士。八月二十六日，陈友谅粮食告急，逃向南湖觜，被南湖守军遏制，于是向湖口突围。朱元璋在半路拦截，乘水流与之战斗。陈友谅身中乱箭而死。张定边和陈友谅的儿子陈理逃回武昌。
九月，朱元璋率大军回应天府，论功行赏。当初，朱元璋要援救安丰。刘基劝阻他，没有被采纳。现在，他对刘基说：“我救援安丰的时候，如果陈友谅乘虚直捣应天，天下大势就很难预料了。但是陈友谅屯兵南昌，不灭亡更待何时？陈友谅一死，天下就不难平定了。”十六日，朱元璋亲自出征，时伐陈理。当月，张士诚自称吴王。
冬十月七日，朱元璋军包围武昌，分道巡行湖北各路，都已平定。十二月初一，回到应天，留下常遇春总督大军。
毫正二十四年（公元1364年）正月初一，李善长等率领群臣劝朱元璋晋爵，朱元璋不接受。群臣一再请求，朱元璋才即吴王位，设置百官，任命李善长为右相国，徐达为左相国，常遇春、俞通海为平章政事，并告诫他们说：“立国之初，应该首先端正纲纪。元朝昏暗软弱，朝纲不振，所以才导致天下大乱。今天我们应该引以为戒。”立儿子朱标为世子。二月初，朱元璋再次亲征武昌。陈理投降，汉，沔、荆、岳都被收复。三月初一，班师回应天。三月初六，罢黜诸翼元帅府。设十七卫亲军指挥使司，命令中书省征召各种文武人才。
夏四月，建祠堂，在康郎山祭奠丁普郎等人，在南昌祭奠赵德胜等人。
秋七月十六日，徐达攻克庐州。十七日，常遇春前往江西。八月初七，收复吉安，于是乘胜包围赣州。徐达巡行荆湘各路。九月二十四日，攻下江陵，夷陵、潭、归等地也都投降。
冬十二月初一，徐达攻克辰州，派部将直取衡州。
元至正二十五年（公元1365年）春正月初十，徐达攻下宝庆，平定湖湘一带。常遇春攻克赣州，熊天瑞投降。于是又直奔南安，招抚晓谕岭南各路，收复了韶州、南雄。二十五日，常遇春抵达南昌，捉拿大都督朱文正回应天，数落他的罪名，然后将他安置在桐城。三十日，福建行省平章陈友定侵略处州，参军胡深将他击败，收复了浦城。二月十七日，张士诚部将李佰界进攻诸会的新城，李文忠将他打得大败。
夏四月二十三日，常遇春巡行襄汉各路。
六月七日，攻陷安陆。十一日，攻下襄阳。七月十四日，朱亮祖、胡深进攻建宁，在建宁城下大战，胡深被抓杀害。
秋七月，朱元璋命令对自渡江以来受伤残废者和生病者给予给养，对牺牲者赡养其妻子儿女。九月初一，建立国子学。
冬十月十四日，朱元璋下令讨伐张士诚。
这时，张士诚所占有的地盘，南到绍兴、北有、泰、高邮、淮安、濠，泗，北到济宁。于是朱元璋命令徐达、常遇春等先计划谋取淮东。闰月，包围泰洲，并且顺利攻克。十一月，张士诚进攻宜兴，徐达将其击败，于是徐达又从宜兴回头进攻高邮。
元至正二十六年（公元1366年）春正月初一，张士诚侵犯江阴，朱元璋亲自出征迎救。
张士诚逃走，康茂才追击到浮子门，将他击败。
朱元璋返回应天。二月，明玉珍死，他的儿子明昇自立为王。三月十四日，朱元璋命令中书省严格选举人才，同时徐达攻克高邮。
夏四月初四，朱元璋在淮安大破张士诚部将徐义的水军。徐义逃走，梅思祖献城投降。
濠州、徐州、宿州也相继收复，于是淮东一带平定。四月十三日，朱元璋到濠州省墓，设立二十户守冢人家，赐给故人汪文、刘英粟帛，设酒宴招待父老乡亲，极为快活。朱元璋说：“我离乡已有十几年，艰难征战，才得以回归，察省坟墓，与父老兄弟再次相见。今天恨不得能久留，与大家欢聚为乐。各位父老应教子弟忠孝勤农，不要远出经商。滨淮各郡县还在受贼寇掠夺之苦，父老乡亲请多自爱。”命令官府免除他们的租赋，众人都磕头感谢。二十日，徐达攻克安丰，分兵击败扩廊。五月初一，朱元璋自濠州回到应天府。九日，下诏征求天下散失书籍。
秋八月初一，改筑应天城，在钟山的南面修建新宫。八月初二，任命徐达为大将军，常遇春为副将军，率兵二十万，讨伐张士诚。在军队出征誓师时，朱元璋说：“城攻下的时候，不要杀掠，不要焚烧房屋。不要挖掘坟墓、祠堂。张士诚的母亲葬在平江城外，不要侵犯毁坏。”然后召问徐达、常遇春，准备先采取什么行动。常遇春想直捣平江。朱元璋说：“湖州张天祺、杭州潘原明是张士诚的手臂，一旦平江告急，两人一定全力前往救援，如果那样的话我们难以取胜。不如先进攻湖州，使他们疲于奔命。羽翼一旦丧失，平江势单力孤，可以一举成功。”二十五日，在湖州击败张天祺，张士诚亲自带兵援救，又在皇林遭到大败。九月十六日，李文忠进攻杭州。
冬十月三日，常遇春在乌镇击败张士诚的军队。十一月六日，张天祺投降。十三日，李文忠攻下余杭，潘原明投降，周边各郡县也都收复。十五日，大军包围了平江。十二月韩林儿死去。朱元璋以第二年为吴元年，建庙社宫室，并且祭告山川。有司进献宫殿图，朱元璋下令去掉雕琢奇丽的部分。
这年，元朝扩廓帖木儿与李思齐、张良弼结怨，多次互相攻击。朝廷的命令无法正常下达，中原百姓更加困苦不堪。
元至正二十七年（公元1367年）春正月二十一日，朱元璋下诏中书省说：“东南久遭兵祸，民生凋敝，我非常同情。况且太平、应天各郡是我渡江后的开创地，供应军需已经很长时间了。现在户口空虚，官府急催课税，我的子民将拿什么来承担？免除太平田租二年，应天、镇江、宁国、广德备一年。”二月一日，傅友德在徐州击败并活捉扩廓的部将李二。三月一日，开始设立文、武科取士。
夏四月，方国珍秘密派人串通扩廓和陈友定，朱元璋写信责问。五月二十四日，初次设置翰林院。当月，因天下大旱减膳素食，免除徐、宿、濠、泗、寿、邳、东海、安东，襄阳、安陆及新归附地田租三年。六月二十三日，大雨，群臣请求朱元璋恢复膳食。朱元璋说：“虽然已经下雨，但是伤害的庄稼已经很多，免除百姓今年的田租。”二十八日，命令朝贺，但取消了女乐。
秋七月初二日，赐给府州县官任费，赐衣帛给其父母，妻子、长子各有区别，并将其作为法令颁行全国。十五日，雷震官门旸，大赦罪囚。十六日，派遣使者责成方国珍进献贡粮。八月九日，圜丘、方丘、社稷坛落成。九月一日，太庙落成。朱亮祖率军队讨伐方国珍。九月五日，朱元璋下令：“先王之政，罪不及孥。从今以后，除大逆不道，不要连坐。”九月八日，徐达攻克平江，活捉了张士诚，于是吴地一带平定。九月二十五日，遣使送书信给元帝，并护送元朝宗室神大王等回到北方。
九月二十八日，论平定吴地的功劳，封李善长为宣国公，徐达为信国公，常遇春为鄂国公，其他将士也都有不同的赏赐。此日朱亮祖攻克台州。九月三十日，新宫落成。
