張掖古屬永州，夏商時期有羌人居住。周朝時期，戎、狄在此居住，春秋戰國時期，烏孫、嶽氏等民族在此繁衍生息。戰國時期，建立了城市，修築了長城。今天，張掖地區仍有秦長城遺址。烏孫被嶽家趕走，逃到新疆伊犁後，張掖屬於“能控弦壹百二十萬”的嶽家。嶽的都城(今民樂)是嶽與昭武(今臨澤縣)共同居住的黑河兩岸的中心城市。
漢文帝前四年(公元前6年)，擁有數十萬強兵的匈奴單於大敗嶽氏。張掖成為匈奴右王獻的領地。匈奴占領後，不斷掠奪，破壞了匈漢友好往來，切斷了漢朝與西域長期存在的聯系。公元前121年，霍去病受漢武帝派遣西征大敗匈奴，後設張掖郡，因“斷匈奴之臂，掖張中國”之意而得名。
張掖在九州時期屬於永州。
漢朝(公元前206-220年)以前，越國是敦煌、祁連的霸主，張掖是其疆域。
西周時期，戎、狄曾在此居住。
春秋戰國時期，烏孫和嶽氏居住在河西。後嶽獨居，為烏孫所驅。
秦漢時期，北方的匈奴強大起來，打敗並趕走了月氏人，河西成為匈奴右王獻的領地。黑河東西分別被修土王和匈奴邪王所分。
西漢武帝元壽二年(121)，驃騎霍去病進軍河西，大敗匈奴，謝混、修土二王率眾漢室。張騫兩次出使西域，絲綢之路開通。漢代丁原六年(前111)，張果取“以武蓋西域”之意，設張掖郡。此後，大規模移民開始耕種、駐軍、屯田，發展農業生產，促進了中原和西域的經濟文化交通和繁榮。“在良田裏開荒，把郵政放在要道上，趕著郵，長期下去，兜售客戶，日款塞下。”張掖成為絲綢之路的重鎮。西漢末年(公元前206年-公元前8年)，都榮任張掖刺史時，註重發展農牧業生產，使人民安居樂業。《後漢書》記載:“都榮占河西，天下不安，河西獨大。”“政治也寬大，自上而下約會，有錢。”“定居北方土地，那些逃離尚軍饑荒的人永遠不會停止回來。”
晉南北朝時，居曲孟勛在張掖建立涼國，建健康城(今高臺縣駱駝城)。他采取發展農業、弘揚儒學、擴大與西方國家的文化交流、繼承和發揚中華文化、普及佛教、翻譯佛經、開鑿石窟等措施，並將地方音樂、歌舞與龜茲音樂相結合，創造了新的音樂《秦漢紀》，使張掖文化呈現出前所未有的繁榮。北魏(386-535)秦漢詞傳入中原，稱西涼樂，成為北朝的“民族詞”。張掖的佛樂傳入中原，稱為“西涼周白”，成為北朝佛教寺院的法樂。西魏廢帝三年(554年)，因境內甘泉，改張掖為甘州。
唐朝大力發展農業生產，“開墾土地，充分利用水土之利，收獲稻子數十蹄，積軍糧數十年”。河西的國際貿易地位達到前所未有的高峰，張掖成為中國對外貿易的重要場所。經濟繁榮促進了文化繁榮。著名高僧玄奘經張掖赴印度(天竺)取經。詩人陳子昂奉命視察張掖，寫下《諫武侯》。王維、高適、和馬在贛州停留時，都留下了著名的詩篇。甘州樂《波羅門佛國》傳入宮廷後，唐玄宗將其改為《衣冠舞樂》。贛州邊塞歌流入中原後，成為焦芳大曲，以贛州坡、贛州子、巴生贛州、贛州曲命名的警句、曲牌廣為流傳。唐朝末年，張掖與中原、西域聯系密切，相互間貿易發達。僧人往來，佛教文化進壹步交流。
北宋天盛六年(1028)，黨項首領李元昊擊敗甘州回紇，建立西夏。繼承漢文化傳統，繼續興修水利，發展農業，興辦教育，尊佛尊道，修建了規模宏大的佛寺——大佛寺。
元朝建立甘肅省，張掖為省會。元世祖·忽必烈親自召見醫生董文，模仿寧夏種植水稻的方法，在甘州開墾稻田。甘肅最大的糧倉紮渾倉建在城中，供應各種口糧。贛州已成為河西走廊的驛道中心和茶葉對外貿易的轉口城市，貿易路線便捷，商品交易頻繁。意大利旅行家凱爾·波羅在前往商都的途中，在贛州停留了壹年。在《馬可·波羅遊記》中，他描述了張掖的富庶，城市的規模，宗教寺廟的宏偉。
明代張掖為陜西杭都、甘鎮總督。明朝大力發展文化教育，興建了壹批學校和書院，使贛州文人輩出，舉人輩出。大陸移民大量定居土地，興修水利，極大地發展了農業生產。在贛州修築長城等大量軍事設施，鞏固邊防，形成完整的軍事防禦體系。贛州至今仍是西北的軍需基地，河西的政治、軍事、經濟中心。商業持續繁榮，成為西北地區最大的畜產品集散地。陜西、山東和史靜的晉商和商幫聚集在贛州建立會館。明政府利用山西、陜西的商人向贛州運送糧食和茶葉，充實邊境倉儲，發展茶馬貿易。
清朝時，張掖是甘州總督，甘肅方面軍司令，控制涼州、蘇州、西寧、寧夏等地的指揮官。清朝在西部的所有軍事行動都以贛州為軍事調度中心和後勤補給基地。這壹時期，全國各地的商人聚集在張掖(贛州)設立商業會館，如山西會館、陜西會館、誌東會館(冀魯豫)、涼州會館、範縝(民勤)會館、湖南會館、河南會館等。各大商團的貿易活動波及新疆、蒙古等西北廣大地區，甘州成為河西的商業中心和日用品中轉批發市場。到了清代，文化教育蓬勃發展。在城市和農村設立誌願學校、社會學校和私立學校；民間武術很多，百姓習武。近百年來，出了20多個吳進士，出了100多個吳舉人。清末，張掖人王之佐留學日本時，加入孫中山領導的同盟會，回國後宣傳革命思想。他的《給馬安良的壹封信》公開支持武昌起義，支持* * *和廢除帝制，席卷全省。
張掖縣成立於1927。
1985年5月，撤銷張掖縣，設立縣級張掖市，原張掖縣行政區域為張掖市行政區域。
2002年3月1日，國務院批準撤銷張掖地區及縣級張掖市，設立地級張掖市。市人民政府位於甘州區新設立的南環路。張掖市設立甘州區，縣級張掖市行政區域為甘州區行政區域。縣府街區人民政府。地級張掖市轄臨澤縣、高臺縣、山丹縣、民樂縣、肅南裕固族自治縣和新設立的甘州區~