永祚寺雙塔散發著悠久的歷史文化氣息。為到此觀光和遊覽的人們所喜聞樂見。雙塔寺“碑廊”的最北端，鑲嵌有宋代大文豪，壹代書法家蘇東坡的墨跡“赤壁懷古”刻石。這套刻石***三塊，是蘇武原跡的摹勒本，也是雙塔寺“碑廊”眾刻石中引以為重的佼佼者。據該刻石末壹通的“跋文”看，該石為乾隆二十七年仲夏（公元1762年），依舊拓摹勒上石，迄今227年。茲引原“跋文”如後：右東坡先生自書大江東去詞，乃為醉後神到之筆。余家藏舊拓也。詞與書並挾，莫偉勁傑之氣雅，類其為人。余愛而重之，固復鉤摹勒石以廣所傳。按先生脫禦史臺，獄謫黃州團練副使，前後赤壁二賦成於遷所，此詞寄托略同，應亦是時所作。觀其淋漓杯酒，逸興遄飛，伸底揮毫，盎然天趣，非見道深而胸無塊壘者能之乎？籲！信可愛而重也美，乾隆二十有七年壬午仲夏。西村鄂弼跋。鄂弼為何許人，已不得而知。如今我國有東坡“赤壁懷古”刻石者，僅兩處。其壹在“東坡赤壁”，即今湖北省黃州。其壹即雙塔寺所在此石。據傳，黃州赤壁所藏乃清同治七年（公元1868年）時鐫刻。如是則晚於太原雙塔寺所藏者百余年矣。蘇東坡乃宋代四大書法家之壹，世稱蘇、黃（庭堅）、米（芾）、蔡（襄）。他擅長行、楷，取法顏真卿、楊凝式，而能自創新意。至於他的草書則較為鮮見，《念奴嬌·赤壁懷古》則是其草書的傳世之作。
歷代名書法家評介“赤壁懷古”刻石時，認為它取法於張旭、懷素，筆勢奇勁，如驟雨旋風；飛動圓轉，同詞的豪放風格，相得益彰。書後款識作“久不作草書，適乘醉走筆，覺酒氣勃勃，似指端出也。東坡醉筆。”由此可見，這同張旭大醉後呼喊狂走而後落筆，以及懷素酒醉興到運筆，極為相似。東坡“赤壁懷古”刻石，既是所有蘇軾書法碑帖中最受人喜愛的，也是雙塔寺碑廓中最引人註目的。它給寺院增添了不少光彩。進右方丈院拾階而上，在三聖閣的右側可看到壹個圓月形壁門，穿圓月形門就進入永祚寺的最後壹處院落——上院。上院也稱塔院，位於寺院中軸線的東南方，是永祚寺地勢最高的地方。巍峨並峙，直沖霄漢，久已聞名遐邇的那兩座大磚塔宣文雙塔，就傲然屹立在塔院的東南、西北兩隅。兩塔相距約四十余米，在它們相間的通道上，壹座樸質無華結構簡單的磚仿木構殿堂橫臥其中，它就是過殿。在塔院的最東南角，還有壹座底層為磚券洞式，上層為木構閣式的兩層樓閣殿宇。它位於永祚寺的最末端，背負雙塔革命烈士陵園，故名後殿。古往今來，永祚寺的雙塔為世人所矚目，被譽為“晉陽奇觀”，當作太原的標誌。