遊仙詩的淵源可以上溯到先秦。遊仙詩在老子、莊子雲遊龍騫思想的直接啟發下而產生出來。老子的混沌壹片的“道”，《莊子》的文章中，傳奇的仙人上天入地、宇宙星辰，下到江湖河海、入芥豆之微，無不來去自由。遊仙詩也在屈原《楚辭》抒發內心的憂思情緒的啟發下得到發展。如《離騷》、《遠遊》，都有與傳說中的人物對話、雲遊的描寫，以抒發內心的痛苦和對自由的精神世界的向往。還有宋玉的《高唐賦》、《神女賦》也是啟發遊仙詩的源頭之壹。
《神女賦》雲：
昔者，楚襄王與宋玉遊於雲夢之臺，望高唐之觀。其上獨有雲氣，崪兮直上，忽兮改容，須臾之間，變化無窮。
王問玉曰：“此何氣也？”
玉曰：“所謂朝雲者也。”
王曰：“何謂朝雲？”
玉曰：“昔者，先王嘗遊高唐，怠而晝寢，夢見壹婦人曰：‘妾，巫山之女也。為高唐之客，聞君遊高唐，願薦枕席。’王因幸之。去而辭曰：‘妾在巫山之陽，高丘之阻，旦為朝雲，暮為行雨，朝朝暮暮，陽臺之下。’旦朝視之，如言，故為立廟，號曰‘朝雲’。”
王曰：“朝雲始出，狀若何也？”
玉對曰：“其始出也，揚袂鄣日，而望所思。忽兮如雨，風止雨霽，雲無處所。”
王曰：“寡人方今可以遊乎？”
玉曰：“可。”
王日：“其何如矣？”
玉曰：“高矣，顯矣，臨望遠矣；廣矣，普矣，萬物祖矣。上屬於天，下見於淵，珍怪奇偉，不可稱論。”
王曰：“試為寡人賦之。”
玉曰：“唯唯。”
《神女賦》將男女情愛神化，可謂想象奇特。
到了秦朝，始皇帝好神仙，曾“使博士為《仙真人詩》，及行所遊天下，傳令樂人歌弦之”。《仙真人詩》已失傳。繼此之後，漢樂府之中，如十九首郊廟歌中的《日出入》、《天馬》，都表達了暢遊仙境的理想。
遊仙詩的流行則是在魏晉時期。服膺老莊思想的道人和文人競相創作遊仙詩，蔚然成壹代風氣，我國第壹部文學作品選集、南朝梁蕭統編的《文選》，列“遊仙”為文學體裁之壹。劉勰在《文心雕龍》中對“遊仙詩”有專門的評說，至於鐘嶸的《詩品》就更加細致地品評郭璞等人的作品風格。郭璞有“遊仙詩”十九首，其中如“吐納致真和，壹朝忽靈蛻。飄然淩太清，眇爾景長滅。”體現了玄學思想和追求。
到了李白，遊仙詩和山水詩如兩股溪流實現了交匯融合。李白自己說他“十五遊神仙，遊仙未曾歇”（《感遇》其五），又說“五嶽尋仙不辭遠，壹生好入名山遊”（《廬山山遙寄盧侍禦虛舟》）。李白的足跡幾遍中國，天姥山、蓮花山、華山、太白山、嵩山、廬山、泰山、峨眉山、敬亭山、王屋山等等名山都在他的詩裏被美化為仙山。其中的名篇，如《夢遊天姥吟留別》、《廬山謠寄盧侍禦虛舟》、《西嶽雲臺歌送丹丘子》，寫景與遊仙渾然融為壹體，山因仙愈顯巍峨而神秘，仙因山愈顯真切而可親，酣暢淋漓、神彩飛揚。
如《遊泰山六首》之壹：“登高望蓬瀛，想象金銀臺。天門壹長嘯，萬裏清風來。玉女四五人，飄搖下九垓。含笑引素手，遺我流霞杯。”
如《懷仙歌》：“仙人浩歌望我來，應攀玉樹長相待。“
如《古有所思》：“我思仙人乃在海之東隅，海寒多天風，白波連天倒蓬壺。長鯨奔浪不同涉，撫心茫茫淚如珠。西來青鳥東飛去，願借壹書謝麻姑。”雙方都殷切地思念著對方。
李白到仙鄉，神仙們都格外熱情：赤松子“借余壹白鹿”（《古風》），紫皇“賜白兔所搗之藥方”（《飛龍引》），玉女“邀我登雲臺，高揖衛叔卿”，玉女“含笑引素手，遺我流霞杯”（《遊泰山》），真人“粲然啟玉齒，授以煉藥說（《古風》）”，“太白與我語，為我開天關（《登太白峰》”。
而詩人對仙人的邀請則是“含笑淩倒影，欣然願相從。”（《古風》）“舉身憩蓬壺，濯足弄滄海。”（《酬崔五郎中》）
他在仙境中的行動更是隨心所欲：
“朝弄紫泥海，夕披丹霞裳。揮手折若木，拂此西日光。雲臥遊八極，玉顏已千霜。”（《古風》）
“羽化騎日月，雲行翼鴛鸞。”（《登敬亭山南望懷古贈竇主薄》）。
“先期汗漫九垓上，願接盧敖遊太清”（《廬山謠寄盧侍禦虛舟》）
“我有萬古宅，嵩陽玉女峰。長留壹片月，持在東溪松。爾去掇仙草，菖蒲花茸茸。歲晚或相訪，青天騎白龍”（《送楊山人歸嵩山》）
這種徑直以成仙得道者自居，請朋友壹起遊仙，那種天真、親切而傲俗的氣概，確實是壹般遊仙詩人難以比擬的。
李白是仙人寫仙話。所以，他的詩不是壹般人寫得出來的。