朱元璋不仅要自立门户，而是要效法刘邦一统天下，李善长、冯国胜等人很早就帮他确立了这一目标，围绕这一目标还有一套倡仁义、收人心的政策，朱元璋在第一时间实施了这些政策。
一天，朱元璋走出衙门，看见一个小孩站立在门外往里张望，就上前问道：“你在这里看什么呢？”
小孩说：“我在等我爹。”
朱元璋：“你爹在哪里？”
小孩：“在官家养马。”
朱元璋：“你娘呢？”
小孩：“也在官家门下，爹说他不敢认娘，只能喊她妹妹，娘不能回家，爹能回家，我不敢进门，每天在这里等爹，今天爹到现在还没有回来。”
朱元璋听了很难过，这时他的幕僚范常说：“得一个城池而使老百姓妻离子散，怎么能够成就大事？”
于是朱元璋决定先从交还妇女做起，整顿军纪。第二天他把所有军官召集在一起，说道：“大家从滁州来到这里，有一些人掳人家的妻女，使百姓夫妻离散，敢怒不敢言，如此扰民，怎能安众？今天你们如果把所得的妇女交出来，一概不追究，倘若霸占隐瞒，决不轻饶。”
众将十分的惶恐，纷纷交出了私藏的妇女，朱元璋命令城中己婚男子集中在衙门前，站立在两旁，让妇女一个个从衙中走出，宣布：“如果是夫妇，就相认，不是夫妇，不得随便认领。”
许多妇女从衙门走出，回到了他们丈夫的怀抱，家庭得以团聚。这样一来，军队的形象和军民关系得到改善，但是朱元璋只解放有夫之妇，对于未婚的女子，默许被抢占，这也是对现实的一种妥协。
朱元璋深刻认识到只有改善军民关系，取得群众的支持拥护，军队才能发展壮大，政权才能长治久安，因此每攻占一个地方，都申明军纪，不杀人，不劫财，采取各种安抚人心的措施，这是一种长期经营的理念，与黄巢、李自成打一枪换一个地方的流寇思想截然不同，两者本质的区别在于是否有远大的理想。
当时天下大乱，四方割据，战争无虚日，朱元璋希望上天能给他指条明路，他命谋士范常写了一篇祷词，向上天祷告：“当今天下大乱，生灵涂炭，如果元朝气数未尽，希望上天早日消灭群雄，我朱元璋也在群雄之中，请从我这里开始，如果上天厌弃元朝，希望得天命者取而代之，以免老百姓受苦受难。是死是活，请于三个月内应验。”
然而老天爷没有消灭朱元璋，他的老丈人却试图将他打回原形。朱元璋在和州树立个人威信，提拔任用自己的亲信，组建自己的班底，截留战利品，这些消息传到了郭子兴的耳朵里，郭子兴十分的生气，他知道朱元璋又开始搞自立门户那一套了，因此他连夜赶到和州兴师问罪。
郭子兴的仇人孙德涯比他早一步来到和州，孙德涯的部队很久没吃上一顿饱饭了，他们来到和州恳请进城吃饭，朱元璋明知道他和郭子兴不对付，却擅作主张开门延纳。
朱元璋得知郭子兴来了，急忙前往拜见，郭子兴见到朱元璋后，一脸怒气，不跟他说一句话。朱元璋自知理亏，跪在地上，默不作声，郭子兴突然发问：“下面跪者何人？”
朱元璋答说：“总管朱元璋。”
郭子兴大喊：“你知罪吗？你能逃得到哪里去？”
朱元璋打出亲情牌，并转移焦点说道：“儿女有罪，又能逃得到哪里去？家里的事迟早好说，外面的事要紧，得马上办。”
郭子兴忙问：“是什么事？”
朱元璋站起来在郭子兴耳边小声说道：“孙德涯在我这里，人多势众，你要小心他害你，最好防备一下。”
当孙德涯听说郭子兴来了之后，内心忐忑不安，不等到天亮，他就派人向朱元璋传话：“你家岳翁突然来此，我居住不便，想即刻拔队到其他地方去。”
眼看计划就要落空，朱元璋很着急，他一方面赶紧派人向郭子兴通风报信，一方面给孙德涯出了个馊主意，他说：“既是大帅执意要走，我也不好强留，只是两军共处一城，一军忽然有大行动，恐怕引起震动，如果下面的人再有处得不和谐的也容易滋事，是否请大队先发，大帅留后，免得生出麻烦。”孙德涯觉得有道理，表示同意。
朱元璋这个建议非常的歹毒，他让前军先走，留孙德涯殿后，目的是分散孙德涯的军力，以便郭子兴对滞留在后的孙德涯下手。为了麻痹孙德涯，朱元璋自告奋勇护送前军先行。
朱元璋护送前军刚走了二十多里，就传来后军遇袭的消息，朱元璋见目的达到，打马便往回跑，孙德涯的亲信费了九牛二虎之力才将他追上。逮捕朱元璋后，孙德涯的手下派人前往和州打探消息，探子一进门，看见孙德涯被锁着脖子正和郭子兴对面喝酒，看情形郭子兴是准备送孙德涯上路了。
正当郭子兴快意恩仇的时候，听说朱元璋被擒的消息，大吃一惊，愿意用孙德崖换回朱元璋，但是两家谁都不肯先放人，争执良久，最后采取了折中的办法，郭子兴先派大将徐达到孙营作人质换回朱元璋，朱元璋回营后放了孙德涯，孙德涯回营再放回徐达。
此次郭子兴本来可以痛快报仇，不料煮熟的鸭子飞了，更让他生气的是，自己一直重点栽培、十分倚重的朱元璋竟然总想离他而去，还和自己的仇人搞到了一起，背叛和通敌像两把尖刀伤害了郭子兴，他十分恼火、伤心，从此一病不起，不久后死去。
朱元璋对郭子兴的死感到欣慰，上天终于帮他清除了这个绊脚石，他从此就可以放心大胆地另起炉灶了。郭子兴死后，他的儿子郭天叙和妻弟张天佑成为义军的主要领导，他们在名义上仍然是属于刘福通部红巾军，此时刘福通在亳州拥立韩林儿建立大宋政权，为了壮大力量，派人前来联络。
为了借助龙凤政权确立自己的领导地位，郭天叙派张天佑前往亳州受封，龙凤政权封郭天叙为元帅，张天佑为右副元帅，朱元璋为左副元帅。
朱元璋对这一个任命非常的不满，不过他也无意和郭天叙、张天佑争夺领导权，他可以自立为王，干自己想干的事，但是郭天叙却不愿放手，在他看来，朱元璋那支实力不俗的队伍是他父亲遗产的一部分，理应归自己所有，因此他抓着朱元璋不放，无论朱元璋走到哪里，他们就跟到哪里，像个橡皮膏药一样挥之不去，朱元璋的对策是加以利用，并伺机摆脱。
对于下一步的动向，朱元璋早有打算，渡江南下，此举从眼前看可以解决和州粮食短缺的困难，从长远看可以占据南京，问鼎天下，也是为了摆脱郭天叙的纠缠。
朱元璋手下己有足够的兵力，不久前虹县人邓愈，怀远人常遇春前来投奔，增加了他的力量，但是他没有渡江所需的船以及训练有素的水兵。朱元璋正在为渡江的事发愁，忽报巢湖水师来人求见，巢湖水师属于天完红军的旁支，曾经在彭莹玉的领导下反元，彭莹玉兵败被杀后，起义处于低潮，这支部队在李国胜等人的带领下逃到了巢湖一带。
后来起义再次掀起高点，这支队伍也再次复活了起来，但是他们受到了亲元义军左君弼的打击，被困在巢湖中，缺吃少穿，日子很难过。为了摆脱困境，李国胜等人派俞通海向朱元璋求援，在他们看来，天下红军是一家，朱元璋应该能帮助他们打击左君弼。
朱元璋听到这一消息，叹道：“天助我也！”亲自率兵前往巢湖接收了这支水师，这样朱元璋就有了船，渡江提上了日程。朱元璋率领水师直奔采石，乘着西北风，船队很快抵达彼岸，常遇春第一个跳上岸，经过一番激战，夺得牛渚矶滩头，并乘胜攻占采石。
攻下采石后，义军获得大量粮食和财物，将士们打算带着丰厚的战利品回去与亲人团聚，可是朱元璋打算继续在江南发展，为了断绝士兵的北返之心，朱元璋命令人将所有船缆砍断，让船只顺流漂走，将士们十分的惊诧，朱元璋解释说：“前面有个太平州，金钱女人无所不有，如果攻破此城，战利品随便拿，然后你们再回和州。”
为了驱使将士们效命，朱元璋不得不以金钱美女进行利诱，这也说明当时军队中普遍存在着强盗习气。
望梅止渴收到了成效，义军很快攻陷太平，活捉守将纳哈出，太平路总管靳义投水自杀，正当将士们准备自己动手丰衣足食的时候，朱元璋却违背了自己的诺言，张贴出李善长事先写好的告示，禁止将士们抢劫，并诛杀个别士兵以儆效尤。入城后，朱元璋招贤纳士、安定人心，这是他的既定政策。
朱元璋对元朝统治者十分的宽大，对于被俘的纳哈出，朱元璋给予厚待，并将他释放，对于死去的靳义，朱元璋赞道：“义士也。”将他厚葬。
这是朱元璋的一惯方针，直到攻克北平以后仍对元宗室采取宽大态度。朱元璋这一种做法并不仅仅是一种政治需要，而是发自内心的，这一点与元末所有反元武装炯然不同。