鹹豐二年臘月中旬，壹陣急促的馬蹄聲叩響了湖南長沙府湘鄉荷葉塘白楊坪（今湖南省婁底市雙峰縣荷葉鎮天坪村），這是湖南省巡撫衙門派差官送來了鹹豐皇帝的聖旨。
在籍丁憂守制的兵部二品侍郎曾國藩換下喪服跪聽聖旨，諭旨是：“前任丁憂侍郎曾國藩籍隸湘鄉，於湖南地方人情自必熟悉，著該撫傳旨命其幫同辦理本省團練鄉民，搜查土匪諸事物 伊必盡力 不負委任 欽此 ！”（曾文正公年譜）
曾國藩叩頭謝恩，送走了差官。陷入沈思：其實這個消息來得並不突然，在京時，他的老師——理學大儒唐鑒，曾多次向鹹豐皇帝保薦過他。丁憂回籍後，曾國藩並不只是閉門讀書，他時常與朝廷同僚書信往來，對外面情形大致清楚。如今的時局勢猶如暴風雨來臨的前夜，自從太平天國廣西起事後，官軍接連大敗，不是丟城逃跑，就是全軍覆沒。守城官員要麽城破被殺，要麽革職逮捕問罪。每當噩耗傳來，曾國藩憂心忡忡，常有兔死狐悲之感。眼下，湖南局勢就不太平。鄉間常有小股農民暴動，有些富戶壹夜間被搶光，燒光。這樣的年頭，身為曾氏宗族的長孫，曾國藩考慮得自然多壹些.....四個月前，太平天國軍隊圍攻長沙省城壹月不克，解圍北上，打到湖北境內，壹舉攻克了長江沿岸重要繁華城市武昌。猶如燎原烈火，壹路勢如破竹，嚇得紫禁城裏的鹹豐皇帝慌了手腳，除了緊急調令各地綠營八旗軍隊布置防堵攔截外，連頒聖旨，諭令許多在原籍大臣幫辦地方團練事宜，供應前方糧秣，肅靖地方匪患等。
本年九月，鹹豐任命前刑部尚書陳孚恩在江西辦團練，後又任命借口在籍養病的周天爵於安徽辦團練，任命工部侍郎呂賢基、翰林編修李鴻章也於安徽辦團練。至今已有三十多人被諭令為“團練大臣”。如今輪到了自己。
就這麽奉旨赴任？想到這裏，曾國藩嘆了口氣，他認為困難重重，這些年來他對大清朝的腐敗深有體會。衙門裏的冷、硬、橫、推。能把壹團烈火澆得透心涼。無私的付出很可能得到的只是屈辱、誤解、辛酸。他守孝在家，備受冷落。事到臨頭鹹豐皇帝突然想起了自己，分明是急病亂投醫，壹挨風波過去後，又引來猜忌。請纓赴任，勢必要奔走於官場，與貪官汙吏打交道，人們不僅不會體諒當事者之難，還會認為他貪圖功名，刁難，白眼，挖苦再所難免。既違背於禮制，又讓士大夫們譏笑。何苦為之？
反復權衡利弊後，曾國藩決定不奉上諭。他擬了封懇辭的折子。準備過幾天找個適當的機會就拜發上去。
幾天後壹個夜晚，壹位風塵仆仆的官員踏著積雪來到了白楊坪，曾國藩壹見來人頓時喜出望外，想不到多年前的好友此刻會登門來訪。兩人回想起在京城的時光，恍如隔世，不禁相擁而泣。
來人是曾國藩當年在嶽麓書院的同窗好友郭嵩燾。郭嵩燾湖南湘陰城西人，喜談洋務，為人直爽而少有城府，與曾國藩多年情投意合，不為士林所容。郭曾極力主張向西方學習，動輒與老朽們爭論，得罪了許多人。在頑固派眼中，不啻是士林敗類，名教罪人。曾國藩在京為官時，兩人情同手足。道光二十七年（1847）郭嵩燾赴京趕考時就住在曾家。郭嵩燾考中進士後留京任職，還教授紀澤（曾國藩長子）功課，曾府也就成了他的家。 那時的日子雖然清苦，好在世道還太平。
郭嵩燾也因丁憂回籍。他行事與曾國藩不同，太平天國起事後不久便自告奮勇到湖南巡撫衙門幫辦軍務。曾親自率領團練武裝剿滅過小股農民暴動。這次來訪的目的是奉湖南巡撫張亮基之命勸曾國藩奉旨赴任的。
到了曾家後，郭嵩燾也不客氣，飽餐之後，二人閉門談了壹夜。據《曾國藩家書》記載郭嵩燾先是大罵清朝腐敗，養了綠營八旗壹群飯桶。如今官場黑暗，民生雕敝至極，洋人驕橫跋扈。郭認為本朝的捐納制實在為禍甚深。俗話說做官不為財，請我都不來。官員們花了無數銀兩，好容易補缺就任，誰不指望大撈壹票。百姓不堪重負，紛紛逃亡，人們對當局失去信心，政權自然不穩。朝廷只圖壹時之利，不及長遠。如今大亂的禍根只怕二百年前乾隆朝就種下了。
令曾國藩感到驚奇的是：郭認為洪秀全不能成事，壹年來郭奔走於廣西，湖南鄉間，對於太平天國的內幕多少了解些，太平軍將領多數出自於廣西紫荊山壹帶會黨，士兵多是無地農民，洪秀全有兩個致命弱點：壹、殺戮過甚，楊秀清執法素來嚴酷，把沿途俘獲的清朝官吏，士紳、兵弁等壹律處死。二：不尊禮教。軍隊行軍途中砸孔廟、毀學堂、殺儒士、宣洋教，毫無孝義可言。孝道乃立國根本。未能事人，焉能事鬼？此外還聽說洪秀全每到壹處必訪求美女，隨軍眷屬甚多。後宮規模仿照歷代帝王制度，由於上行下效。將領之間常常為了爭奪財物嬌娃打鬥，奢侈之風已初見端倪。曾國藩凝視著越燒越旺的爐火，口上不說，心底已有所松動，他這幾天已考慮清楚了，當務之急是迅速訓練出壹支有戰鬥力的新軍。二人對時局又做了番深入細致分析後，得出了壹致結論：如果任由洪秀全等人塗炭，洋人必定趁虛而入。三五年後大局不堪設想，湖南不保。覆巢之下豈有完卵？
為了打消好友顧慮，郭嵩燾又說現任湖南巡撫張亮基是難得的幹練之吏，在他身上幾乎看不到大清官吏的腐敗作風。況且辦團練之事於自身有益，壹定會全力支持。長沙已有嶽麓書院的同窗羅澤南，左宗棠等人具體操辦防禦事務，曾國藩所借重的只是名望而已。
第二天早上，曾國藩到父親的房間問安時。擡頭看到了壹付新寫的對聯：
粗茶淡飯布衣衫，這點福老夫享了。
齊家治國平天下，那些事兒曹當之。
曾國藩明白了父親支持自己，於是決定墨絰出山。
鹹豐三年正月，曾國藩、郭嵩燾、曾國葆踏上了征途，開始了他們的戎馬生涯。此時，曾國藩四十三歲。
三個人路過湘鄉縣城時，知縣朱孫詒帶了六百鄉勇要求同行，曾欣然答應了。第二天早晨，就在他們準備趕往長沙時，又來了三個人，還帶了壹千多兵勇。三人是羅澤南、劉蓉和王錱。羅澤南、劉蓉是曾國藩嶽麓書院同窗好友，王錱是第壹次見面。是羅澤南的門徒，所以稱曾國藩為“世叔”，算是晚輩。幾天後壹行人到了長沙省城，湖南巡撫張亮基聽到消息後十分高興，在巡撫衙門大擺筵席接風。
其實來此之前曾國藩心下多少有些忐忑，中國政治向來講究“縣官不如現管”，在籍守制，正所謂名不正言不順，出入公堂，多少有違禮教。如果“父母官”大人不歡迎。依他性格（曾國藩壹生有過三次轉變）也許扭頭回去了。好在巡撫張亮基熱情有加，沒有絲毫架子，在曾國藩面前稱自己為“下官”，禮儀也十分周全。曾國藩來時的拘束壹掃而空，看來是自己多心了，於是神色自如，侃侃而談，乘機提出了很多要求，張亮基都滿口答應。
此後在長沙的日子，曾國藩主要幹了三件事，壹、給鹹豐打報告要錢，二、跟巡撫衙門打招呼批地（練兵用）。三、加緊組建、訓練湘勇。此外，還兼管長沙治安。
湘軍草創時，長沙城裏原有綠營兵壹千人，鄉勇壹千人。鄉勇們來自湖南各地，有新寧縣的楚勇、辰州府的辰勇、寶慶府的寶勇、瀏陽縣的瀏勇、瀘績縣的瀘勇等，曾國藩來時又帶來湘勇壹千六百人，人數***三千人。曾國藩從其中親自遴選出壹千人，交給羅澤南、劉蓉、王錱三人操練。
鹹豐三年夏 ，湘軍陸軍擴編為十營。營官分別是：塔齊布 、羅澤南 、鄒壽章 、周鳳山、儲玖躬、曾國葆、朱孫詒、鄒士琦、楊名聲、林源恩。各領兵勇五千人。 鹹豐四年二月，湘軍水師正式成立。營官是：彭玉麟 、楊載福、 褚汝航、 夏鑾、 胡嘉垣、胡作霖、 成名標 、龍獻深 、鄒漢章 、諸殿元。各領兵勇五千。 湘軍營制主要采用明代著名將領戚繼光《紀效新書》和《練兵實紀》中的”束伍”成法。陸軍每營五百人（營官壹員、哨官四員在外），十人為隊，隊有什長；八隊為哨，哨有哨長，統以哨官；四哨為營，轄以營官；余為親兵，直轄於營官。各隊以擡槍、刀矛、小槍等長短兵器配合作戰。水師每營五百人。
湘軍營規有7條1禁止吸煙2禁止賭博3禁止喧嘩4禁止奸淫5禁止謠言6禁止結盟拜會7禁止異服。此外還有營規三勤等。
同清軍相比，湘軍的薪餉很豐厚。陸軍營官每月50兩，另加辦公銀150兩，而哨官每月9兩，哨長6兩，什長4.8兩，親兵護勇4.5兩，正勇4.2兩，夥勇3.3兩，長夫3兩。可是，清軍中的綠營兵平時每月薪餉只有1兩，出征作戰時也僅1.5兩，比湘軍的長夫還少，分別只及湘軍正勇的四分之壹和三分之壹。所以湘軍的厚餉養兵，可使勇丁贍養家室，安心從軍了。
再好的政策也得有得力之人去執行和實現。 湘軍有文臣和武將之分。文臣（知識分子李元度、趙烈文等），都是曾國藩的學生或同窗。文人在軍隊裏的地位很高。書生帶兵是這支軍隊的傳統也是湘軍區別於其他中國軍隊的地方。在湘軍成長的關鍵幾個階段，文人起到了重要作用。
除了曾國藩、左宗棠和胡林翼被史學界稱頌的“中興三名臣”外。整個湘軍系統後來位至總督者15人，巡撫14人，其他大小文武職不計其數。全國各地的優秀人才陸續投入曾國藩麾下，包括壹批卓越的工程師、科學家（如李善蘭、徐壽、容閎等），曾的幕僚達到過三四百人。除了曾國藩，還有曾國荃，左宗棠、李續賓、羅澤南、彭玉麟、郭嵩燾、李鴻章、劉坤壹等，成為晚清歷史顯赫的壹頁。後來的洋務運動也主要由湘軍人物壹手發起。左宗棠因為收復新疆的壯舉，更是被譽為民族英雄。
1854年2月，湘軍傾巢出動，曾國藩發表了《討粵匪檄》。這篇檄文裏，他攻擊太平天國農民戰爭是“荼毒生靈”，“舉中國數千年禮義人倫詩書典則，壹旦掃地蕩盡”，接著號召“凡讀書識字者，又烏可袖手安坐，不思壹為之所也”。亮出了衛道的旗號。