我國地質事業創始人之壹章鴻釗先生說過：“自有天地以來即有礦，亦自有生民以來即用礦。”長江流域是中國遠古人類的起源地之壹，而江蘇又是我國經濟發展較早地區。1992年在南京東郊湯山地區石灰巖溶洞中發現了距今數十萬年前的猿人頭蓋骨，說明幾十萬年前，江蘇就已有人類生活。在泗洪縣下草灣、丹徒縣白龍崗山蓮花洞、溧水縣回峰山神仙洞等地，發現有距今四五萬年前至壹萬年前的新人骨化石。這些猿人、新人，都曾知道開采天然石頭，制作各種器具。從已挖掘出的文物來看，江蘇礦產開發利用歷史悠久，可追溯到數萬年前的舊石器時代晚期。從那時開始，江蘇古代礦業經歷了由單礦種變多礦種，由地表開采到地下開采，由簡單加工到各種冶煉技術應用的發展過程。
古代礦業多是見礦開礦，就礦找礦，找礦開礦合二為壹，且往往是多用多采，不用棄之。除鍛制兵器和制幣用的鐵、銅礦產外，其他礦產的產地很少有記錄可查，故江蘇春秋之前的礦業情況，多以考古資料和史書中的追記材料為依據。自漢代以後，對於礦業的記載，逐漸見於各類史書中。到清朝後期，壹些主要礦產開采地都已有記錄可查。但資料均很簡單，壹般只有礦種和礦產地的記錄。據統計，明清以前，江蘇境內已開采的礦種有鐵、銅、白石脂（高嶺土）、五色土（雜色粘土）、陶土、禹餘糧（粉末狀褐鐵礦）、茅山石、太湖石、瑪瑙石、花石、硯石、石炭（煤）、各種石料等。特別是鐵、銅礦的開采更為普遍，凡地表有露頭的鐵礦和銅礦，大部分都有古代開采記錄或古采礦遺跡。
舊石器時代，人們主要是用打制的方法把天然石塊、石片加工成各種簡單工具。東海縣山左口大賢莊舊石器時代文化遺址中出土的各類石器有200多件，在東海縣馬陵山瓜墩、蘇州市太湖中的三山島及連雲港市近郊均發現了舊石器時代晚期的石器遺址。另外，在溧水縣神仙洞、句容縣廟家山有相當於舊石器時代的石器出土。說明古時江蘇的先民就利用巖石做生產工具和武器。
新石器時代，北自淮河流域，南至太湖地區，都分布著不少民族部落，他們已開始用磨制的方法制造石器。在贛榆、東海、灌雲、邳州、淮安、高郵、海安、常州、金壇、常熟、張家港、句容等縣（市）境內，先後發掘出數十處新石器時代文化遺址，其出土石器表明，此時期人們在采集、利用、加工石器方面，大有進步。在淮安市宋集鄉出土的“青蓮崗文化”遺址（年代約為公元前5400—前4400年），代表著長江下遊新石器時代中期文化，出土的石器不僅加工精細，而且能根據巖石的性質，做出不同用途的工具。如砍劈用的石斧，多用閃長巖、花崗巖、片麻巖等磨制而成，壹般工具則利用頁巖、砂巖、雲母片巖等加工後使用。同時出土的還有少量用玉石、瑪瑙制作的裝飾品。數千年前生活在太湖地區的人類，已學會了用手工的方法制作和燒制各種陶器，宜興和張渚壹帶就有原始的制陶業，據《宜興縣誌》記載，宜興歸徑鄉南唐村發現5000多年前生產夾砂紅陶和泥質紅陶遺址，證明當時人們已知開采利用陶土和砂巖制作日用陶器。
夏商時期，古人已從石器時代向銅器時代過渡，並開始出現冶煉技術。《尚書·禹貢》“徐州厥貢惟土五色”，“揚州厥貢惟金三品”，即金、銀、銅三種金屬。商代，江蘇的銅冶業已較發達，南京市區北陰陽營商代遺址中，出土有銅礦石、小件銅器、銅渣以及冶銅工具。
西周時期，青銅業已相當發達，《詩·魯頌》有“憬彼淮夷，大賂南金（即銅）”的詩句，淮夷在今江蘇北部。此時的陶瓷業也很普遍，主要生產人們日常使用的器皿。宜興制陶業有大發展，除陶器外，還能生產壹些原始青瓷器。
春秋時期，已由銅器向鐵器過渡。當時的吳國，經濟發達，鑄銅、冶鐵業水平較高，吳、越的青銅器冶煉、鍛造業已相當聞名。“歐冶子、幹將鑿茨山洩其溪，取鐵英作為三收。”這是我國開采鐵礦最早文字記載，近年六合縣程橋春秋墓中出土了帶有“攻吾父”句吳字樣的青銅編鐘，還有用白口生鐵鑄成的鐵丸、由塊煉鐵（熟鐵）鍛成的鐵條。後者是國內發現的最早人工冶煉的生鐵實物，反映吳越的冶鑄匠人已發明了冶煉生鐵和煉鋼的技術。春秋晚期，宜興丁蜀壹帶陶土得到大力開發和利用。傳說範蠡最早發現了丁蜀鎮附近陶土資源豐富，從而建窯燒陶。宜興的窯戶們曾奉他為制陶業的祖師，至今仍保留有以其名字命名的河流、村莊等。另外，此時鹽城壹帶的煮鹽業也有所發展。
秦漢以來，江蘇礦業逐浙發達，特別是鐵、銅兩礦的采冶業尤甚。東漢時期長江下遊江南地區鐵、銅開采頗盛。據《漢書·地理誌》記載，漢武帝時，江蘇境內設有用來管理開采和冶鑄的鐵官七處，計有東海郡下邳（現邳州市東）、朐（現海州南），臨淮郡鹽瀆（現鹽城）、堂邑（現六合縣北），沛郡沛（現沛縣東），楚國彭城（現銅山縣）和廣陵（現揚州）。根據古采冶遺跡看這些地方的鐵礦早已被開采。其中銅山縣利國地區硐山發現有東漢時期的礦井和露天礦坑遺跡各壹處，說明利國鐵礦在漢代已被發現，並開采利用。鹽城北門漢代遺址中出土有煉鐵渣、紅燒土及各種鐵制具和大量漢代半兩錢。洪澤縣峰山鎮石橋亦發現有漢代冶鐵遺跡。銅礦石在當時主要用來鑄錢和制青銅鏡。西漢有“吳（吳王劉濞）鄧（大夫鄧通）錢，布天下”之說。傳說，吳王劉濞曾在六合縣冶山招集遊民采礦冶銅鑄錢。六合縣李崗楠木塘有漢初鑄錢遺址，其中有銅塊和鑄廢的鐵芯和鑄錢工具等。徐州北硐山、雲龍山也曾發現西漢時期的“半兩”和“五銖”的銅質錢範。東漢晚期，徐州已成為著名的銅礦產地。用徐州北硐山所采銅礦石冶煉後制成的銅鏡，質地非常好，故有“銅出徐州，師出洛陽”的美譽。直至魏晉時，徐州銅礦仍負盛名。《古鑒銘》：“漢有善銅出丹陽”之詞。據考，漢丹陽縣即現江寧縣小丹陽鎮（位於當塗東北），似可認為小丹陽之東、橫溪以南的橫山等地銅礦床在漢代即已被開采利用。三國時，吳統壹長江以南後，利用丹陽所產鐵、銅，自鑄兵甲，並在南京築有冶城，專司冶煉。東漢晚期，江浙壹帶陶瓷業有進壹步發展，出現了正式瓷器。宜興的制陶業也有了發展，均山已能生產釉陶及青瓷器，南山窯群在三國兩晉時，已成為青瓷的主要產區之壹。此外，江蘇鹽業也很盛行，沿海壹帶分布有廣闊的鹽場。
南朝的冶鐵業以南京為中心，丹陽郡永世縣（現溧陽市）西南的鐵峴山是當時的主要鐵礦石產地，也是冶制兵器和農具的主要場所。梁朝大同二年（公元536年）在溧水縣東南蘆塘山、東破山、西南銅山等地均曾開采過銅鐵礦，並在當地冶煉，舊爐冶址至今猶存。南朝時，南京附近的石灰巖被開采用來刻制各種石獸、石柱、石碑，南京六朝石刻頗聞名，在中國當時的雕刻藝術方面具有壹定的代表性。
隋唐時代，江蘇礦業仍以開采銅、鐵為主，次為陶土、高嶺土等。據《新唐書·地理誌》記載，唐代有鐵礦產地四處，分別為彭城（現銅山縣）、六合、溧陽、上元（現南京）；銅礦產地七處，即江都、六合、上元、句容、溧水、溧陽、吳縣。銅山縣利國鐵礦在此期間獲進壹步開采，成為當時“地產堅金”的要地。句容縣北銅冶山（羊山）產銅、鉛，為古采區，歷代采鑄，古代采跡遍布，唐代采鑄亦興盛，有些山頭都已挖平。據《太平寰宇記》所載，吳縣西十裏的銅山為古代采礦鑄錢處，此書成書時（北宋太平興國年間）此處尚見有銅。1958年，在丹徒縣南西巢鳳山北坡王家莊曾挖出壹塊石碑，其上銘刻著該地自隋唐至宋代礦冶史實，說明巢鳳山壹帶鐵礦，自隋唐即已開采利用。南京附近江寧縣境內的伏牛山、銅井、谷裏、九華山等已知銅礦區，均發現有古采坑遺跡，但具體開采年代不詳。此外，蘇州西部高嶺土礦在唐代亦已開采，用做化妝品，稱為白石脂，並成為貢品。1975年在揚州唐城遺址的爐堂內發現有煤渣，說明遠在唐朝，這裏已使用煤做燃料，但其礦石來源無考。
宋代，江蘇探礦冶煉業發達，徐州已發展成全國四大鐵礦石產地之壹。太平興國四年（979年）置利國監元豐年間，徐州鐵產量占全國三分之壹，利國已成為全國第三大鐵礦場。利國地區的銅礦亦得開采，設有寶豐監，專鑄銅錢。當時，除徐州利國鐵銅礦業興盛外，六合、儀征、句容等境內鐵、銅礦仍繼續開采。據《太平寰宇紀》等史書記載，徐州的五色土、蘇州的白石脂、金壇茅山的禹餘糧、蘇州的花石、太湖的太湖石、茅山的茅山石等，在宋代均曾開采。宜興的陶土得進壹步利用，紫砂陶和均陶產品問世，日常陶器亦得到發展。宋元豐元年（1078年），蘇軾在徐州任太守時，派人在蕭縣（1955年劃歸安徽省）白土寨找到石炭（煤），用於取暖和冶煉業。“冶鐵作兵（器），犀利勝常”。使徐州鐵冶業進入新階段。
明代，江蘇礦業漸趨衰退。明初，徐州鐵礦仍在開采，但隨著鐵礦業中心南移，盛極壹時的利國鐵礦逐漸衰落。明代宜興陶瓷業較盛，中期集中於丁山、蜀山壹帶，生產的陶器不僅內銷，還外銷東南亞等地。明清時期，宜興曾取得“陶都”的稱譽。無錫自明代起，就出現了制磚、制陶等手工業。據《明史·地理誌》記載，溧陽東南有鐵山、銅山，西南有鐵冶山；儀征西北有大小銅山；徐州東北有盤馬山，產鐵，又有銅礦。《大明·壹統誌》關於江蘇礦產有如下記載：應天府（南京）南聚寶山（雨花臺側）多細瑪瑙石，東南70裏有銅山，昔人采銅於此；蘇州洞庭山出太湖石，陽山產白墡（高嶺土），土人當白石脂用。明代的石刻業也很興盛，南京東郊的陽山是當時開采石料的場所，遺存的“陽山碑材”現已成為供人們參觀的古跡。明清之交，是江蘇古代發現和使用煤炭的壹個重要時期。《古今圖書集成·職方典·卷667》中就提到嘉靖末，江寧府五石、馬鞍山等地“鑿井出煤，取之不竭”。《天工開物》壹書中也指出煤產地不僅有“燕、齊、秦、晉”，還有“吳、越”。《讀史方輿紀要》中有關江蘇礦產，尚有“江寧縣紫金山產紫金”；“溧陽縣東南產鐵”；“溧陽（縣）東南8裏銅官山，昔產銅”；“溧水（縣）西南45裏，有銅山，昔嘗鑄冶於此”；“蘇州府長洲縣（現吳縣）光福山西南55裏，有銅坑山，晉宋間鑿坑，取沙土煎之皆成銅”；“徐州西20裏有赭土山（楚王山或同孝山）”等記載。
清代，江蘇礦業較發達，礦產地的記載也較以前詳細，壹些新的礦產被開發利用。宜興的陶土礦大量開采，成為全國日用陶器重要產區之壹。寧鎮地區的煤礦也普遍得到開發利用。乾隆五至七年（1740—1742）間，政府提倡辦煤礦，故當時僅“江寧府的上元縣就有煤井數十處”。但在乾隆十年，因“防匪患”，又禁開礦。以後是時開時禁。《大清·壹統誌》和《江南通誌》中對江蘇礦產地均有記載，除與歷代重復者外，尚有“六合靈巖山產瑪瑙，稱靈巖石（雨花石）”；“蘇州城西南黿頭山產青石，有天然玲瓏者，稱花石，宋徽宗采貢，故有花石綱之說。又壹種色白而濕潤，號為玉石，又胎斑者光澤可愛，可充硯石”；“鎮江府丹徒縣圌山在縣東北六十裏，出火石”；“漂陽縣南六十裏，結都山產石煤”；“常熟縣西五十裏苑山，產石堅硬，可為硯”；“宜興縣西南荊南山昔產銅，有司采之，故曰銅官（棺）”；“儀征縣西南神山產細石，五色皆具”；“通州泰興縣出硝”；“徐州府東山出花石，五色，文成竹木如繪；石巖（徐州府）郡邑（領銅山、蕭、沛、豐、碭山、宿遷、睢寧七縣及邳州）遍產”；“句容縣茅山出石墨”；“金壇縣茅山出茅山石，如玉石鐘乳”；“溧水縣琛山在縣東15裏昔嘗出玉”；“吳縣穹窿山在縣西南六十裏產自然銅”等。
除上述各礦業外，古代人們開采天然石料，用做修築房舍、墓穴等建築材料，利用黃土制作磚瓦等壹些與人們生活息息相關的非金屬礦用品，也有悠久歷史。但其起源年代，已無從考查。