彭玉麟壹生充滿傳奇色彩。早年是個書生，後投筆從戎，加入湘軍。由於他在與太平天國軍隊的作戰中驍勇善戰，善於謀略，富於創新，鹹豐三年（1853年），曾國藩讓他創立了湘軍水師，購買洋炮，制造大船，訓練將士。第二年他率領湘軍水師於湘潭敗太平軍，後隨軍攻陷嶽州，在武漢、田家鎮連敗太平軍水師。後來率湘軍水師在湖口被石達開打敗。於是整頓水師，配合陸軍於大敗太平軍於樟樹鎮、臨江等地。接著，率湘軍水師攻占湖口、九江、安慶，升任水師提督兼兵部右侍郎。在攻占天京（今南京）的戰役中，親率水師策應曾國荃陸師沿長江東下，堵截天京護城河口。第二年他攻下江浦、九洑洲、浦口，斷絕了天京糧道，成為攻陷天京的大功臣。
在剿滅了太平天國後，他壹心撲在清軍長江水師的建設中，為清軍這支水師嘔心瀝血，鞠躬盡瘁。後來長江水師被李鴻章全盤接收，成為北洋水師最主要力量。彭玉麟成為近現代中國海軍的創始人。 彭玉麟多才多藝，詩書畫俱佳，他壹生畫了上萬幅梅花圖，在每幅梅花圖都題上以梅花寄情的詠梅詩。這些號稱“梅花百韻”的詠梅詩，寄托了彭玉麟壹生對梅姑的愛戀、思念、牽掛、自己的愧疚和悔恨。他所畫之梅堪為壹絕。筆下的梅花“老幹繁枝，鱗鱗萬玉，其勁挺處似童鈺”，被稱為“兵家梅花”，與文人墨客的梅花相去甚遠。他畫的梅樹，身姿虬曲，鐵骨錚錚，古拙蒼勁。枝間的梅花，吐蕊綻放，生機盎然。
特別是他的“墨梅圖”更是冠絕，與鄭板橋的墨竹齊名，被稱為“清代書畫二絕”。入選“衡陽民間國寶”的《墨梅圖》就是壹幅畫梅傑作。該畫以水墨繪壹老梅蜿蜒橫斜，上不見結頂，下不見根底，主幹鐵骨挺拔，周身蒼皮蘚苔，枯眼斑斑。虬枝曲折盤環，枝蕊參伍交錯，給人以老樹繁花、生機勃勃的感覺。畫上題詩，讓人更能體悟到“兒女心腸，英雄肝膽”的意境。 彭玉麟於軍事之暇，喜繪畫，以畫梅名世，據稱是思念梅姨之愛情之物，“老幹繁枝，鱗鱗萬玉，其勁挺處似童鈺”。1946年羅爾綱考證，梅姑本是彭玉麟外祖母的養女竹賓，以輩分而言，可以說是彭玉麟的長輩（阿姨），較彭玉麟年長幾歲，人稱梅姑，據說彭玉麟稱她“姑姑”，兩人年紀相約，青梅竹馬，情愫漸生，至私許終身。後來，兩人始終未有結合，原因表面上是八字不合，真正的理由卻是輩分。後來，在彭母的主持下，梅姑嫁到別家姚氏，四年後死於難產，彭玉麟聞訊身心俱裂，哭吟“壹生知己是梅花”，並發誓要用余生畫十萬梅花以紀念兩人之情。他每畫成壹幅，必蓋壹章曰“傷心人別有懷抱”、“壹生知己是梅花”。
彭玉麟說到做到，他畫了整整40年，才完成了以萬幅梅花紀念梅姑的承諾，喪妻後終生未娶。他畫的梅花：幹如鐵，枝如鋼，花如淚。辭官隱居期間，壹是在湖口水師昭忠祠旁邊建廳，遍栽梅花，號稱“梅花塢”，即石鐘山著名旅遊景點梅花塢；二是在家鄉築“退省庵”，在庵裏吟詩作畫。 第壹次是辭去安徽巡撫（相當於安徽省委書記）之職。當時是在鹹豐十壹年（1861年），彭玉麟官職是安徽布政使（相當於省長）銜水師統領。曾國藩任兩江總督，把所屬三省巡撫任給他的三個親信，任彭玉麟為安徽巡撫。他卻壹連三次辭謝，其理由是已習於軍營而疏於民政，請朝廷勿棄長用短。朝廷只好收回成命，改任兵部侍郎，依舊留在前線督帶水師，他才坦然接受。
第二次是同治四年（1865年）二月，朝廷任命署漕運總督。漕運總督掌管魯、豫、蘇、皖、浙、贛、湘、鄂八省的漕政，是眾人所垂涎的天下壹流肥缺。但他又兩次謝絕，理由除了不懂漕政外，又加上性情褊急、見識迂愚，不會與各方圓通相處。朝廷只得作罷。
第三次是同治七年（1868年）六月，上疏請辭已當了七年的兵部侍郎。原因是當年從軍時，三年母喪只守了壹年，現在國家安定，他理應解甲歸田，將剩下的兩年補滿。這次朝廷沒有挽留，答應了他的請辭。
第四次是彭玉麟離職休養三四年後，朝廷又任命為兵部侍郎兼光緒帝大婚慶典宮門彈壓大臣。待到慶典壹結束，他立即上疏請辭署理兵部侍郎。朝廷接受後，又交給他壹項差使，即每年巡視長江水師壹次。
第五次是光緒七年（1881年）七月，朝廷任命為兩江總督兼南洋通商大臣。兩江轄地廣闊，又兼物產豐茂，南洋通商大臣壹缺更是權大責重，壹向非名宦宿臣不能任命。朝中重臣曾國藩、李鴻章等人都曾任過此職。讓彭玉麟出任兩江總督，說明朝廷對他的倚重，但他就是不領這個情，接旨後即上疏請辭，隔日後又再次上辭疏。朝廷無奈，只得把此要缺交給左宗棠。
第六次是光緒八年（1882年），朝廷任命彭玉麟為兵部尚書。與過去壹樣，他接旨後即請辭，朝廷未準。不久，中法戰爭爆發，朝廷命他率領舊部將士並增募新軍，迅速前往兩廣部署海防。他認為此時是臨危受命，不宜再辭，便以衰病之軀奉旨赴粵，帶領所部駐紮南海前線，整修虎門要塞，加強沿海完備，遣部將防守欽州、靈山。多次上疏主戰，戰後疏請嚴備戰守，以防後患。中法戰爭勝利結束後，光緒十壹年（1885年）三月，便上疏請辭兵部尚書之職，朝廷未予接受。他又於這年八月、第二年八月、第三年七月、第四年六月接連四次上疏請求辭職。鑒於他的執著，朝廷只得接受。 彭玉麟位居高位，始終堅持了壹條“不要錢”的生活準則。鹹豐四年（1854年）冬，彭玉麟率湘軍水師配合陸師攻陷了田家鎮後，清廷獎勵4000兩白銀，他卻轉而用於救濟家鄉。他在給叔父的信中說：“想家鄉多苦百姓、苦親戚，正好將此銀子行些方便，亦壹樂也。”還要求他叔父從中拿出壹些銀兩在家鄉辦所學堂，期望為家鄉“造就幾個人才”。對自己和家人卻甚為嚴苛。當他得知兒子花費2000串銅錢修葺了家中老屋之後，即去信嚴辭斥責：“何以浩費若斯，深為駭嘆。”說他壹貫將“起屋買田視作仕宦之惡習，己身誓不為之。不料汝並不來信告示於我，遽興土木；既興土木之後，又不料汝奢靡若此也。外人不知，謂吾反常，不能實踐，則將何顏見人!”其實，他兒子修葺後的老屋也不過是三間土墻瓦屋而已。
同治三年（1864年），他曾說過：“顧十余年來，任知府，擢巡撫，由提督，補侍郎，未嘗壹日居其任。應領收之俸給銀兩，從末領納絲毫。……未嘗營壹瓦之覆，壹畝之殖以庇妻子。”彭玉麟是這樣說的，也是這樣做的。按清朝制度，凡文武官員於正式薪俸之外，由國家另行發給養廉金壹份，於離職之日壹次發給，以獎官守，並杜絕貪汙。據此計算，彭玉麟自鹹豐五年（1855年）至同治元年（1861年），七年之間，應得養廉銀二萬壹千五百余兩，但他分文不取，全數上交國庫充作軍餉。彭玉麟考慮到他壹個人這樣做可能使人懷疑他沽名釣譽，因而又請求曾國藩出面向朝廷說明。曾國藩則說：曾國藩之所言，確不為過。 《清史稿》：①玉麟剛介絕俗，素厭文法，治事輒得法外意。不通權貴，而坦易直亮，無傾軋倨傲之心。歷奉命按重臣疆吏被劾者，於左宗棠、劉坤壹、塗宗瀛、張樹聲等，皆主持公道，務存大體，亦不為溪刻。每出巡，偵官吏不法輒劾懲，甚者以軍法斬之然後聞，故所至官吏皆危栗。民有枉，往往盼彭公來。朝廷傾心聽之，不居位而京察屢加褒獎，倚畀蓋過於疆吏。生平奏牘皆手裁，每出，為世傳誦。好畫梅，詩書皆超俗，文采風流亦不沫雲。②彭玉麟、楊嶽斌佐曾國籓創立水師，為滅賊根本。兩人勛績，頡頏相並。嶽斌後為朝旨強促西征，用違其才，僨事損望。玉麟終身不任官職，巡閱長江，為國家紓東顧之憂。其疏論古人晚節之失，由於不能自藏其短，且惜朝廷不善全其長，洵至言也。後盛昱劾其辭尚書之命，乃謂抗詔鳴高，殆淺之乎測玉麟矣。 曾國藩：①彭玉麟書生從戎，膽氣過於宿將，激昂慷慨，有烈士風。②若論天下英雄，當數彭玉麟、李鴻章。③烈士肝腸名士膽；殺人手段活人心！ ④千古兩梅妻，公幾為多情死；西湖三少保，此獨以功名終。⑤查彭玉麟帶兵十余年，治軍極嚴，士心畏愛，皆由於廉以率下，不名壹錢。今因軍餉支絀，願將養廉銀兩，悉數報捐，由各該省提充軍餉，不敢迎邀議敘，實屬淡於榮利，公而忘私。 胡林翼：忠勇冠軍，膽識沈毅。 左宗棠：①論治軍之嚴肅，彭視楊（載福）為優。②出處進退緩急，罔不心安理得，求之古大臣中，尚不多見，何論今人？③劾治多人，嚴正之概，謀慮之忠，足式百僚。 李鴻章：①老彭有許多把戲。②楊（嶽斌）心細膽略均在彭上，肅清長江實伊之功，用之江海較宜。③不榮官府，不樂室家，百戰功高，此身終以江湖老。無忝史書，無慚廟食，千秋名在，余事猶能詩畫傳。 張之洞：①加官不拜，久騎湖上之驢；奉詔即行，誓翦海中之鱷。②神州貫長江，其南際漲海。江海幸息浪，砥柱今安在。③五年前瘴海同袍，艱危竟奠重溟浪；二千裏長江如鏡，掃蕩難忘百戰人。 曾國荃：下為河嶽，上應日星， 壹旅起衡湘，誌量不居三代後身在江湖，心存魏闕，大勛垂宇宙，忠清無愧九重褒。 俞越：①鹹豐、同治以來諸勛臣中始終饜服人心，無賢不肖交口稱之，而無毫發遺憾者的唯壹壹人。②勛業在天下，聲名在柱下。③公性豪邁，善飲；喜讌客，而自奉至薄。不禦肥甘，旁無姬侍，惟壹、二老兵給事其旁。遇部下舊將，若布衣昆弟；而紀律極嚴。④人之生直，其為氣剛；剛則近仁，直大以方。明明天子，知公特詳；錫此二字，紀於太常。公之故舊，私議其旁；情性似矣，功業未彰。豈知功業，非公獨長；即在當時，並稱彭、楊。至於性情，日月爭光；睥眤宇宙，笑傲侯王。直如矢笴，剛若箭鋩。 易宗夔：彭雪琴力崇儉樸，偶微服出，狀如村夫子。巡閱長江時，每赴營官處，營官急將廳事陳設之古玩及華煥之鋪陳，壹律撤去，始敢迎入。副將某以千金購玉鐘，聞公至，捧而趨，砰然墜地。公見之，微笑曰：“惜哉!”副將悚服，不敢仰視。曾飯友人處，見珍饌，輒蹙額，終席不下箸，惟嗜辣椒豆腐。有人謁之於西湖“退省庵”，公衣繭綢袍，加羊毛外褂，已裂數處，冠纓作黃色。室中除筆硯外，惟竹簏二事。久之，命飯，園蔬數種，中置肉壹盤而已。 李篁仙：長江數千裏之間，論荊楚將才，慘淡功名全在水；危崖百十尋以上，對梅花片石，輪囷肝膽尚思 黃體芳：於要官、要錢、要命中，斬斷葛藤，千年試問幾人比；從文正、文襄、文忠後，開先壁壘，三老相逢壹笑雲。惲炳孫：其為氣至剛，從孟氏得來，斯稱善養；人之生也直，經孔門論定，不慚古愚。 王闿運：詩酒自名家，看勛業爛然，長增畫苑梅花色；樓船又橫海，嘆英雄至矣，忍說江南血戰功。 王凱運：常患咯血，乃維縱酒。孤行畸意，寓之詩畫。客或過其扁舟，窺其虛榻，蕭寥獨旦，終身羈旅而已。不知者羨其厚福，其知者傷其薄命，由君子觀之，可謂獨立不懼者也。 郭嵩燾：收吳楚六千裏，肅清江路之功，水師創立書生手；開國家三百年，馳騁名揚之局，亮節能邀聖主知。 陳士傑：同儕只幾輩僅存，那堪霧暗星沈，南嶽又驚奇士殞；隔歲向三潭小住，際此風和日麗，西湖應盼主人回。 周崇傅：曾侯之正，左傅之剛，惟公鼎足其間，中興大業三人傑；宏景無才，長源無識，折我私心所仰，南嶽諸峰壹老臣。 李瀚章：得祖豫州之直，得劉並州之剛，每思擊楫中流，慨舊雨雕零，江左功名成壹慟；於曾文正則師，於左文襄則友，總是昔時同澤，望衡雲黯談，中興人物並千秋。 吳熙：先聲震朔漠炎荒，疆寄雖辭，邊防終賴，誰敢當江海樓船，持節任優遊，於今古名臣列傳中，創格獨新，要不外退省為懷，戰戰兢兢無墜誌；余力辟東洲講舍，十年樹木，萬卷藏書，已非復關山戎馬，騎箕猶眷戀，原二三豪傑為時出，通經致用，以仰答愛才如命，勤勤懇懇之深心。 王之春：潔清方文靖，勞瘁似武鄉，高尚紹鄴侯，豐裁超忠介，使車持節，猶是布衣。當年爵祿頻辭，豈忘天下樂憂、民間疾苦。藎臣捐性命，自甘劍浙矛炊，迨至國狗全殲，狂鯨永息，東南奠定，中外安攘，置酒方歌風，何遽大地隕星，又弱壹個；偉業著鄱湖，芳蹤留浙水，勛名垂粵嶠，遺愛遍長江，兵法傳薪，實難負擔。疇昔戎機參贊，曾以幹城屬寄、國士相期。知己感生成，願倚泰山北鬥，誰料災纏二豎，夢兆兩楹，甲馬辰飛，酉雞夜變，無緣再立雪，愧未於場築室，獨居三年。 高鵬年：南嶽西泠，大地茅廬兩個；吳頭楚尾，中流砥柱壹人。 徐琪：①當年文酒追陪，花木池臺，曾見我公親手定；此日湖山供養，馨香俎豆，可知舊地去思多。②半生血戰，助恢廓中原，至今江表威名，婦孺皆呼老宮保。九陛恩綸，識忠清盛德，他日專祠遺像，須眉猶是舊詩人。③酌水勵清操，殷勤千裏廉泉，猶助春波潤蓬液。故鄉留勝跡，惆悵三潭夜月，更無仙夢到梅花。 唐樹森：①帝命重巡江，五千裏浪靜波平，更播威名到南海；臣心如止水，十二橋月明風談，長留灝氣在西湖。馮唐易老，雍齒且侯，三字故將軍，匹馬短衣春射虎；左抱宜人，右弄孺子，孤山林處士，蘆簾紙閣夜談龍。②斯真河嶽英靈乎？以諸生請纓投筆，佐曾文正創建師船，青幡壹片，直下長江，向賊巢奪轉小姑山去。東防歙婺，西障湓潯，日日爭命於鋒鏑叢中，百戰功高，仍是秀才本色，外授疆臣辭，內授廷臣又辭，強林泉猿鶴，作霄漢夔龍。尚書劍履，回翔上接星辰；少保旌旗，飛舞遠臨海澨，虎門開絕壁，巖崖突兀，力拒重洋。千載後過大角炮臺，尋求故跡，見者猶肅然動容，謂規模宏壯，布置謹嚴，中國誠知有人在。 陳彜：何以吊孤忠，有正氣壹歌、出師二表。斯人竟千古，剩西湖水碧、南嶽峰青 沈秉成：天上將軍，比伏波戰艦、下瀨戈船，晚年緩帶輕裘，猶為九邊資坐鎮山中宰相，想衡嶽瞻雲、聖湖泛月，此後啼猿唳鶴，空傳十賚在人間。 陳士傑：同儕只幾輩僅存，那堪霧黯星沈，南嶽又驚奇士殞隔歲向三潭小住，際此風和日暖，西湖應盼主人回。 奎斌：能讓高位，聞危事則不辭，完壹世功名，是謂真廉兼大勇最愛蒼生，遇奸人則必剪，問後身因果，若非菩薩便金剛 許振祎：江湖遙領老尚書，灑淚飛騰為從古，上將元勛，別開生面。天壤如公真國士，忠清剛毅贊中興，平夷蕩寇，特立長城。 蘇元春：是衡嶽間氣所鐘，百戰余生，依舊馳驅勞國事當海上虜氛未靖，九原遺憾，還應慷慨策邊防。 丁義方：：公比武鄉侯，討賊籌邊，贏得大名垂宇宙。我事文中子，感恩知己，難禁老淚灑江濱。 樊瑯圃森：大業著中興，是良將、是名臣，湘鄉以還，此為元老秀。才任天下，亦江湖、亦廊廟，希文而後，僅見斯人。 歐麗先謙：紫光閣毛發壹新，問淩煙功臣，可有此臒仙面目。黃龍府淚痕猶在，只西湖明月，還照著鐵石心腸 譚炳章：海外尚風煙，知公猶抱過河憾。門前數桃李，剩我忝為築室人。 柳均煦：品似範希文，當為秀才時，即任天下。心同嶽少保，行到黃龍府，痛飲諸君肝膽英雄，書畫寄余閑，壹顆圖章留本色根柢秀才，勛猷元老，河山資保障，千秋史筆有靈光 劉思訓、思謙：起家殺賊，垂老籌邊，三十年林下尚書，望楊柳旌旗，留得清風動江渚。冰鐵須眉，神仙標格，壹萬幅人間圖畫，問梅花消息，頓驚明月冷孤山。 唐浩明：古往今來，有多少人求官、跑官、鉆官、買官，又有多少人為了升官，什麽卑鄙無恥的事都幹得出，還有多少人或顢頇無能，或老邁病弱，卻依舊占著壹個職位不放。像彭玉麟這樣壹生辭謝六項崇職要缺，甘願做苦役實事，甘於做普通百姓的人，衡之古今官場，實在是鳳毛麟角，難尋難覓。”