光緒三十二年(1906年)，戶部改為度支部，曾習經升任度支部右丞，兼任法律館協修、大清銀行監督、稅務處提調、印刷局總辦等職。時朝廷實施新政，“部務新創”。度支部中修訂稅務及錢幣制度，創辦稅務學堂，設紙廠，開印局，曾習經都是主辦者，“擘劃尤精”，“所定章程，多出剛甫手”。光緒帝曾兩次召見。宣統三年(1911年)辛亥革命爆發。翌年初，曾習經深知清政府不可能再維持下去了，即先於清帝退位壹日辭官。後袁世凱要復辟帝制，到處羅致人才。其左右要人多為習經舊交，嘗勸習經復出，習經都壹壹謝絕，隱居於京師。及後民國政府也曾三次聘其出任財政部長、廣東省長之職，他都固辭不受。此後，曾習經到直隸寧河楊漕(今屬天津)購地築舍，躬耕隴畝，自號“蟄庵居士”，長期過著田園隱居生活，“鬥室高歌，不怨不尤，不歆不畔”，“布衣草履，日隨老農課晴雨，話桑麻，絕口不談時事”。每於農閑，他都要回故鄉探望老母和兄弟，並常接濟親戚朋友中之貧病孤寡者。他在度支部時，“律己最嚴”，“俸人外既壹介不取”，“去官則無復余財以自活”。楊漕又多為鹽堿地，且經營不善，故“歲屢不登”，以至入不敷出，只得變賣圖書、字畫、古玩以維持生計。後長兄、老母相繼去世，他自己也患癰疽惡疾，壹病不起。據《梁啟超年譜長編》所載，梁啟超曾去探望他，只見癰疽已潰破，十分痛苦，傷感之下，唯有送點錢以表慰問。1926年10月4日，曾習經病卒於北京宣南潮州館，年僅60歲。其後事也全靠老朋友梁啟超、葉恭綽為之料理。梁啟超特為其撰書像贊：
卓犖之才而示物以無競；介直之操而予人以可親。其施於政事者，文理密察而不失其器宇之俊偉；其發為文辭者，幽怨悱惻而愈顯其懷抱之清新。既不能手援天下之溺，則歸潔其身，年四十四全節以去，六十而返其真。嗚乎，此揭陽曾剛甫右丞，有清易代之際第壹完人。
傾倒之情，抒發得淋漓盡致。