張蔭桓出身佐雜，是丁雨生（日昌）的得力助手，由“司道”擢至“戶部侍郎”。據歐家廉所著《京華見聞錄》載：
在滿清，出身科舉的稱為“正途”，張對這點深引為恨事。他在京時，和伶人王瑤卿、朱霞芬、秦稚芬常往來，三人都是旦角，音樂色藝均佳，張日往捧場，出入相依，讓三人叫自己“老前輩”，而張叫他們三人為“老同年”。人問其故？張笑道：“戶部連管部七堂，不才居末座，堂上坐的相稱呼，不是老同年，即是老前輩，不勝羨慕之至，今結二三小友，聊竊尊號，以資自娛而已！”
某次，總理衙門考章京，恭王叫他主持甄選，出題閱卷，壹手包辦，他有意報復壹番，凡正途出身的，多不錄取。翁松蟬（同龢）時以軍機兼總署大臣，無法制止，兩人本已不和，因此更互相傾軋，以後卒至兩敗俱傷，最初並不為政爭，只不過各持門戶之見而已。
總署章京，依例由王大臣委派，壹般士大夫薄而不為，笑為“鉆狗洞”，壹旦把張給“狗洞”升做“龍門”般要路榮途，要登也不許登，自然恨深刺骨了。
張雖不從科第入仕途，可是他實富於天才，擅長文事，所作《三洲日記》，是他出使歐美時寫的，頗有名於時。自官京華，更博覽秘笈，師友名流，更見猛進。當時，壹般士大夫多好收藏，張發憤專收王石谷真跡，積了壹百副畫，稱其書齋為“百石齋”，《孽海花》中記其子竄取張古董的《長江萬裏圖》壹事，可見他收石谷畫出了名。他的寓中，除了圖書滿架外，金石書畫，以及西洋電影留聲機，也都盡有，朝中同官也常被請到家中吃洋菜，看洋畫。他文采聲光，斐乎壹時，同列的館閣中人，囿於聞見，反不及他的淹博賅雅。
五十歲後自署“紅棉老人”，鐫壹小印，寫作得意的，便把它鈐上，有以得否其片紙為榮辱的，壹時“張紅棉”之名大噪。“盛名之下，謗亦隨之”，壹個人在大紅大紫時，而不能收其鋒芒，還是恃才傲物，睥睨壹時，無情的毀謗就免不了的。
張蔭桓與康有為是同鄉，康初到京，本住在裏芍農（文田）處，後來不知為了什麽，在李家和老媽子鬧了起來，給芍農攆出去，因此就移住張家。
康有為的變法主張，張蔭桓對之極欣賞，其高談時局主張，都是張所呈進的。當時號稱“頑固大臣”如徐桐等，認為康、梁是妖孽；學士徐致靖，也曾奏劾張借款納賄。中間還有給事中王相桐壹折，對張被派赴英慶賀英國維多利亞女王登極六十周年紀念歸來時，買了許多珍貴玩物，價值數萬，遍贈清室諸貴近，總管太監李蓮英，也得了不少。
奏上，西太後斥其措辭荒謬，命回原衙門行走。徐致靖扳張不倒，王鵬運也劾張與翁相朋謀納賄，並胡學宸參奏之折均留中，翁相獲譴放歸，張卻無恙。因此某太史便做了壹首打油詩：
這首詩，表現了無限的妒嫉心裏，也帶了不少排擠傾軋的成分，末句二槌雲雲，以槌葉（“協”的古文）徐，指徐桐與徐致靖。張在京朝十幾年，給臺諫攻擊者不下十余起，甚至每年沒有斷過，二遷擢如舊，近眷不衰，所以打油詩中用張棉花故事，用典可稱恰到好處。
戊戌變政之初，維新派種種政治主張，張所授意及合議的為最多，去“老朽昏庸之大臣”主張，為其最著。張以授南海，南海以指揮四卿，所以舊派首領徐桐在變政時，特上封奏，指張為康、梁逆黨，請置重典，西太後以“尚非逆黨”四字替他解脫，時認為奇恩。
壹說張本來在被殺之列，因有外交壓力，所以把他改戍，而把楊深秀來抵補，事久臨稽，這就是有待考了。
張被押解赴戍所時，親朋無壹敢送，獨秦稚芬依依不舍，送至正定府，涕泣而別。但張毫不檢點，壹路上仍不忘官架，在戍所對人說：“這老太太給我開玩笑，還叫我關外走走！”
當日京中對西後，背後私談均以老太太稱之，其蹇傲之氣，仍不少抑，高曉春聞之，譏為：“驕倨之至，亦粗野之至。”
庚子六月，清廷電令就地正法，電到，張神色卻很鎮定，臨刑，還畫了扇面兩業，給他侄兒，畫好，振振衣袖，走到刑場，對劊子手笑了笑道：“爽快些”！
話沒完，頭已落地，成了塞外的孤魂。