無奈之下，朱元璋去了黃覺寺的和尚高斌，在那裏他被剃度為僧，變成了壹個小男孩。【4】他每天在廟裏掃地、燒香、敲鐘敲鼓、做飯洗衣服，有時還會被老和尚訓斥。很快，廟裏的食物不夠和尚吃，廟裏也不給施舍，主人只好停粥散僧，送和尚上路。就這樣，年僅17歲的朱元璋，還只是壹個50天的小男孩，就要扮成和尚，離開寺廟去流浪。
朱元璋邊走邊央求。他從濠州往南到合淝，再向西轉入河南，到達固始、信陽，向北到汝州、周琛，向東到陸毅、亳州，於1348回到黃覺寺。在流浪的三年時間裏，他走遍了淮西各大名城，接觸了當地的風土人情，見識了世界，開闊了眼界，積累了社會生活經驗。艱苦的流浪造就了朱元璋剛毅勇敢的性格，但也造就了他的殘忍多疑。這段生活對朱元璋的壹生產生了深遠的影響。出國三年，也是元末農民起義風起雲湧的時期。社會上流傳著“王銘出世，眾生皆福”的說法，北方的安百裏教也在進行同樣的宣傳。朱元璋在流浪的時候也接觸過這樣的宣傳。
民族矛盾和階級矛盾日益激化，加上頻繁的自然災害，貧困的農民別無選擇，只能鋌而走險。鄭智十壹年(1351)五月，漢和在潁州起義，將士戴紅領巾，號稱“紅領巾軍”，推舉漢為明王。然後，徐壽輝從出發，李二、、趙都從徐州出發。幾個月之內，各地紛紛響應，形成滔天之勢。第二年正月十壹日，定遠土豪郭子興聯合孫德亞等人在定遠、中裏兩地出發，數萬人揭竿而起，響應。郭子興聚眾燒香，成為當地白蓮教的領袖。2月27日，起義軍攻占濠州後，郭子興自稱元帥。
隨後，郭子興堅持要據濠州，並明確表示。
朱元璋收到了兒時夥伴唐河的來信，邀請他加入郭子興的起義軍。就在這時，他哥哥偷偷告訴他，有人知道這封信，要去告密。於是朱元璋去了郭子興的紅巾軍。這壹年，朱元璋25歲。
朱元璋從軍後，因為作戰勇猛，機智靈活，精通文墨，很快得到了郭子興的賞識，於是將朱元璋調到帥府當了壹名警官，並被任命為秦冰的九大隊長。朱元璋聰明能幹，在戰爭中壹馬當先。他得到的所有戰利品都交給了郭子興元帥，他得到了獎賞。他說功勞屬於每個人，所以他把獎勵給了每個人。很快，朱元璋的好名聲在軍中傳開了。郭子興也視他為知己，經常和朱元璋討論重要的事情。當時，郭子興有壹個養女，是他的密友馬工的女兒。馬工死後，他最小的女兒被郭子興收養。此時，郭子興看出朱元璋是個人才，於是將養女馬史嫁給了朱元璋。從那以後，軍隊把他改名為朱公子，朱元璋取了另壹個官方名字，張遠，帶有郭蕊這個詞。
當時在濠州城，紅巾軍有五大元帥。郭子興學派、孫德亞和其他三個元帥學派，兩個學派之間有許多矛盾。這年九月，徐州紅巾軍統帥芝麻李被元軍殺死。部將彭達、趙軍勇領兵到濠州。彭達與郭子興成為朋友，而孫德亞等人則向趙軍勇示好。在孫德亞的慫恿和挑唆下，趙軍勇綁架了郭子興，並把郭子興打到竹簡上，準備置他於死地。朱元璋在彭達的支持下，帶領他的軍隊拯救郭子興。從那以後，兩派更加勢不兩立。
朱元璋看到浩州的將領都在爭權奪利，矛盾重重。他決心依靠自己的力量開創壹個新局面。鄭智十三年(公元1353年)，朱元璋回鄉招兵。他的少年時代的朋友徐達、周德興、國盈等同村、鄰村的熟人聽說朱元璋當了紅巾軍的領袖，都來投敵。於是他迅速招募了700多人，回到濠州。郭子興很高興，於是提拔朱元璋做鎮安撫。
這年冬天，的兒子彭旱自稱魯懷王，自稱雍彜王，仍是元帥。朱元璋見這些人已有半年不在濠州，便從自己的新兵中挑選了徐達、唐河等二十四名心腹離開濠州，在南方稍留。在南下定遠的路上，朱元璋先是從張家堡的驢村招募了3000名民兵，隨後又招募了800名鼻青眼清的人。指揮這支隊伍，朱元璋東進，夜間攻破定遠橫斷山元軍大營，苗大亨元帥投降。朱元璋從軍隊中挑選兩萬壯丁漢人編入自己的隊伍，南下滁州。
定遠名士李善長在往滁州南的途中，在筠門求見。李善長與朱元璋壹見如故，李善長以漢高祖劉邦為例勸說朱元璋:只要他以劉邦為榜樣，知恩圖報，不亂殺人，很快就能平定天下。朱元璋認為很有道理，於是留下李善長為幕府大臣，囑咐李善長協調將領之間的關系，以成大事。
朱元璋很快占領了滁州，他的侄子朱文正和妹夫李真來到他的侄子寶兒(後來叫李文忠)那裏避難。從他們口中，朱元璋得知他的二哥、三哥、三姐都已去世。當時定遠有個孤兒穆英，朱元璋就把這三個孩子收為養子，改名叫朱。後來朱元璋收養了20多個義子。
朱元璋攻打滁州時，郭子興遭到趙軍勇、孫德亞等人的排擠。因此，朱元璋攻占滁州沒多久，郭子興也來到了滁州。朱元璋馬上交出兵權，三萬人的隊伍紀律嚴明，幹幹凈凈，郭子興看了很高興。
1355年，朱元璋壹舉攻克郡縣。郭子興立即任命朱元璋為連長，鎮守登州。有壹次，朱元璋出門，看見壹個小孩在哭。朱元璋問他為什麽哭，回答說在等父親。朱元璋仔細詢問後得知，孩子的父親和母親都在軍營，父親在軍營養馬。母親和父親不敢相認，只好稱兄道弟。朱元璋意識到軍隊的軍紀存在問題。他們攻破城池後，擾亂百姓，搶劫婦女。如果這種情況持續下去，軍隊將失去民心。於是，朱元璋召集將領，肯定紀律，下令軍隊中的已婚婦女歸隊，讓城中許多失散的夫妻團聚。此事廣為流傳，朱元璋深得民心。這壹年，病逝，任命之子郭天旭為都督，妻弟為副都督，朱元璋為副都督。名義上，杜元帥是軍隊的首腦，右副元帥的地位高於左副元帥。但滁州、河州的軍隊大部分是朱元璋招募的，而且朱元璋比郭天旭、張天佑更有膽略，更有人才。所以朱元璋實際上成了這支隊伍的教練。
朱元璋稱帝前，駐守浙西六年[75]。在以船山為中心的秘密明教總舵主的幫助下，推行徽州謀士朱升提出的“築高墻，積糧，緩稱王”的策略，迅速而秘密地擴充自己的實力。這三大戰略是朱元璋早期發展的指導思想。
朱元璋在河州駐紮數月後，糧食供應成了問題。與賀州相對的是靠近長江南岸的太平[79]和蕪湖，盛產大米，卻沒有船只。此時正巧兩支紅巾軍的巢湖水軍前來入黨，朱元璋親自處理合並事宜。七月，巢湖水軍千余艘戰船突破元軍封鎖，抵達賀州。朱元璋的步兵部隊登上巢湖水軍的船，從賀州向東渡過長江。到達采石場的另壹邊，常遇春率軍殺來，攻克采石場，得到大量糧食。士兵想把食物和戰利品運回國，慢慢享用。見此，朱元璋果斷下令，命人砍斷船纜，讓船順流而下，切斷退路。將士們見無路可退，便重整旗鼓，在朱元璋的帶領下攻克了太平。進入太平，朱元璋重申軍紀，禁止搶掠，部分士兵違反禁令，被立即處死。因此，朱元璋的軍隊得到了當地人民的支持。[80]朱元璋於是設立太平興國翼元帥府，自封為元帥，任命李善長為統帥。就這樣，朱元璋開始了穩定根據地的工作。
鄭智十六年(公元1356年)三月，張士誠在長江三角洲發起進攻，打擊江南的元軍。借此機會，朱元璋親自指揮水陸大軍，第三次進攻慶忌。第三天，陳昭憲城外的軍營被攻破，他的三萬六千人投奔了朱元璋。但朱元璋看出他對投降有疑慮，士氣不定。於是朱元璋從軍中挑選了五百名勇士做親兵，晚上看守，身邊只剩下馮壹人。
第二天，軍隊得知後非常感動，所有的疑慮都煙消雲散了。他們願意跟著朱元璋打天下。結果，戰爭進行得非常順利。不到十天，朱元璋攻占了慶功宴。朱元璋入城後，下令安撫百姓，將慶典改在應天府。王小明、韓林兒被舉報後，朱元璋被提拔為樞密院事，不久又被提拔為江南等地的省章。朱元璋在應天設立天星健康儀大元帥府，以遼為統帥，李善長為左右部大夫。
次年，耿秉文命柯長興和許攻常州，而朱元璋親自領兵攻占寧國。然後是趙繼祖和許江陰常熟。胡大海柯惠洲，常遇春柯赤洲，苗大恒柯洋洲。鄭錚十九年(公元1359年)，朱元璋先後攻占浙東其余地區、常遇春的克衢州、胡大海的克楚州。至此，朱元璋部控制了江左、浙右各地，西與陳友諒為鄰。
此時的朱元璋雖然有十萬大軍，但占據的地盤仍然很少，四面受敵。元軍在東、南，張士誠在東南，徐壽輝在西。張和徐雖然都是反元武裝，但他們對都懷有敵意。但北方以王小明、劉福通為首的紅巾軍主力極大地牽制了元軍，張士誠、徐壽輝的實力不足以吞並朱元璋。這樣，朱元璋暫時面臨壹個很好的發展機遇。
鄭錚二十年(1360)，劉基被朱元璋邀請到應天(今南京)，任命他為朱元璋的謀士。鑒於當時的形勢，劉基向朱元璋提出了避免兩線作戰、逐個建設的策略，被采納。
朱元璋在完成“築高墻”的部署後，開始實施“廣積糧”。早期解決軍糧主要靠強制征用，即征用“村糧”。但長此以往，軍隊就會變成純粹的破壞力量，失去民心。為了解決糧食問題，朱元璋除了動員民眾進行生產，還決定實行屯墾法，大力進行軍隊墾荒，任命康茂才元帥為水利大使，負責興修水利，並指派將領在各地開墾農田。幾年下來，各地都建起了村莊，國庫充實，口糧充足。1360年，朱元璋下令不再征收“村糧”，以減輕農民負擔。[92]朱元璋為了積糧，禁酒，但他手下大將胡大海的兒子胡三設卻與人犯法，私自釀酒牟利。朱元璋知道後，下令殺了胡三設。有人勸胡大海此時攻打紹興，希望朱元璋能把胡三設打在胡大海的臉上。朱元璋大怒，堅決懲戒，於是親手殺了胡三設。
朱元璋在贏得民心的同時，不斷招賢納士，尤其是地主階級的知識分子。朱元璋還特意在應天修建了禮賢閣來接待他們。這些人在朱元璋統壹全國的過程中發揮了重要作用。朱元璋非常尊重儒生。1358年，他召見儒生唐，向、光武帝、太宗、等皇帝請教如何平定天下，這也表明朱元璋決心創建壹個新的封建王朝。