青銅文化的遺址，在本市各地亦有發現。它表明粵北地區從周代起已經步入青銅時代，只是發展較中原地區緩慢，尚未形成奴隸制社會。春秋時期，韶關地地理方位上分屬荊州和揚州地域；戰國時期，當強大的楚國勢力擴展到嶺南時，粵北遂為楚國之南疆。
秦始皇吞並六國後，於公元前214年平定兩廣，在今廣東境內設置南海郡。今市屬各縣皆屬南海郡管轄，當時雖然沒有縣的建制，但南海尉任囂已在今韶關市南郊蓮花山下修築了壹座城堡，後人稱之為“任囂城”。
西漢初年，趙佗割據兩廣，建立了南越國。趙佗將前南海郡管轄的粵北地區並入了南越國版圖。當時仍未不置縣。粵北設縣，始於南越國滅亡之後。漢武帝元鼎六年（公元前111年）滅南越國，漢王朝鑒於南越國割據的教訓，設置了地跨騎田嶺南北的桂陽郡（郡治在今湖南郴州市）。桂陽郡***轄十壹個縣，其中桂陽、陽山（後漢省陽山入陰山）、陰山、含誆、湞陽、曲江等六縣，在今韶關市境。東漢時期仍相沿襲，未作變更。今南雄，始興地帶，兩漢時則屬豫章郡南林（後漢稱南野，縣治在今江西南康境內）縣地。
三國末年，吳主孫皓於甘露元年（公元265年）始析桂陽郡南部地區置始興郡，治所在曲江（今韶關市區），是為韶關立郡之始，將今市屬各縣第壹次統壹在壹個行政區（郡）內。二晉因之。其時，始興郡之轄區相當於1983年地、市合並前的原韶關地區和原韶關市所轄區域的總和，為古代史上以韶關為政治中心所轄區域最大的時期，轄桂陽、陽山（吳甘露元年置陽山、廢陰山，以其地並入陽山）、含誆、曲江、始興（吳永安六年，分南野縣地置）、斜階（吳甘露元年再析始興縣地置斜價縣）等七縣。始興、斜價兩縣，即今南雄、始興縣地。
南朝170年間（公元420－589年），朝代更替頻繁，導致粵北境內的郡縣時廢時興，沿革復雜。南雄劉宋時，始興郡曾壹度改稱廣興郡，到南齊時又復稱始興郡，轄境與晉略同。梁、陳兩代，曾在今市境內設置衡州和東衡州兩個壹級行政區和陽山、始興、安遠三個個二級行政區。除原有縣外，又增置了廣穗（今連山、析梁陽縣位置）、梁化（今樂昌中南部地區，梁置，隋開皇十八年更名樂昌）、平石（今樂昌北境，梁置，隋開皇十二年省，以其地入梁化）。翁源縣於梁承後末年新置，其時屬清遠郡。
隋代粵北分屬南海郡（治所在今廣州）和熙平郡（治所在今連縣）。隋開皇九年（公元589年）曾改東衡州為韶州，取州北韶石山的“韶”字為名，始以“韶”字為州，但不久即廢，並歸南海郡。
唐代粵北全境基本上屬嶺南道管轄（今連陽地區曾壹度屬湖南道）。唐王朝在粵北境內分置韶州（唐貞觀年置，治曲江）和連州。韶州轄曲江、仁化、樂昌、始興、湞昌（今南雄）六縣。
五代，嶺南為南漢五劉氏占據。南漢在北江領域增設英州（治所在今英德縣城）和雄州（州治在今南雄城）。這樣，加上原有的韶州和連州，粵北***置四州。
宋代時粵北屬廣南東路。境內仍置四州（雄州改為南雄州）。元代改州為路，元初在粵北地區置南、韶、連、英四路，俱屬江西行省廣東道。
韶州路領樂昌、曲江、仁化、乳源四縣，這是歷史上韶關作為行政中心而轄區最小的時期。明代粵北屬廣東布政使司，境內分置二府（南雄府、韶州府）壹州（連州）。
清代粵北屬廣東省，清初時，境內州府的設置與明同。南雄府於清嘉慶十二年（1807年）改為直隸州，裁去保昌縣（公領始興壹縣）。
明嘉靖二十六年（1547年）曾在曲江縣武水邊開設稅關（名遇仙橋關），清康熙九年（1670年）又將原設於南雄的太平關移到曲江縣湞水邊，以後又在曲江城北門外增設旱關。韶關之名即由此而來。 辛亥革命後，廢府留縣。1914年至1920年間，在省之下曾壹度改道，把前清的南雄府、韶州府和連州府合並，稱為南韶連道，後改稱嶺南道（道治在韶關）。實際轄區與今韶關市境完全相同。1936年，廣東省曾壹度設行政督察區，粵北為第壹督察區，專署設在韶關。
1949年9-10月，粵北各縣陸續解放，11月廣東省設北江臨時行政委員會，轄韶關市、曲江縣等17縣市。1950年1月更名北江專區。1952年撤銷北江專區，設立粵北行政區。1956年撤銷粵北行政區，設立韶關專區。1970年專區更名地區。1975年11月韶關市升為地級市，轄曲江縣。1983年地市合並稱韶關市。