三清山的興衰，總是與道教的興衰息息相關。三清山道教文化始於晉代葛洪，葛洪在三清山有著特殊的地位。據史料記載，東晉升平年間(357-361)，方士、著名醫學家葛洪、李尚書到三清山建宅煉丹，著書鼓吹道教，主張“人可成仙”。至今山上仍有葛洪挖的丹井和高爐遺跡。尤其是那口延續了1000多年的丹井，依然常年不幹涸，其水鮮美，被後人稱為“仙井”。於是葛洪成了“三清山創始人”，也是三清山道教的第壹個傳播者。
唐朝
道教被朝廷奉為國教，道士往來大江南北，三清山的道教也興盛起來，香火香客絡繹不絕。695年，唐朝(周朝)為加強統治，朝廷削衢州胥江南鄉(今江山市)、饒州常山西鄉、益陽東鄉，設玉山縣。於是，三清山被定為玉山縣管轄。後來，方士在葛洪的煉丹處建起了三清山上的第壹座道教建築——老宮觀(此觀稱為“三清福地”)，進壹步鞏固了三清山在道教史上的重要地位。