早在石器時期，人們就開始利用石質裝飾物來美化自己的生活。如距今兩萬年前的北京周口店山頂洞人，就用石珠貝殼等染色加工成串飾(古時的項鏈)佩戴在身上，用以裝飾，它標誌著石類裝飾品的誕生和寶玉石行業的起源。新石器中晚期，隨著社會生產力的發展，出現了大量的石質工具、玉器和寶玉石工藝品的生產，如用岫玉、綠松石等制成珠、環、墜、鐲等，使寶玉石開始向獨立的行業邁進，這壹時期以浙江良渚文化和內蒙古紅山文化為代表，其工與形已極為精致優美。玉料多為蛇紋玉石，部分為青白玉。
夏商周時，玉的應用已經十分廣泛，有“上至天子，下至庶人，未有身不佩玉者”。在距今3000多年的河南安陽殷墟婦好墓出土玉器七百多件中，有各種祭器、禮器，如璋、璧、圭、環、珠、玦、刀、戈等。商朝玉器工藝已具有較高的水平，造型生動、準確。此時的玉料特點是和田玉有壹定的增加，珍珠和天河石等開始使用。
春秋戰國時期寶玉石品種、原料及加工業均有所發展，如原料品種包括玉髓、和田玉、岫玉、獨山玉、瑪瑙、孔雀石、水晶等。把玉人格化，如“君子比德於玉，德明而玉之真偽自判矣”。這說明春秋戰國玉文化，對中華民族文化發展影響之深遠。
秦始皇在滅六國統壹全國後，毀棄了先前的禮制和玉制，除玉璽外，幾乎沒有遺留任何玉器。玉業受到極大的破壞，秦代是玉器衰萎時期。
漢代是中國寶玉石業歷史的轉折點，壹改秦代破壞玉業的政策，力求恢復夏、商、周三代重玉的傳統，振興和發展了玉業。如東漢時在南陽建立了玉器生產基地，工藝圖案更為精細，玉髓、瑪瑙的利用更達到鼎盛時期。
晉朝(公元3世紀)時，印度(天竺)的鉆石傳入中國，促進海內外的寶玉石和寶玉石知識的交流。隨著道教的興起，盛行以玉塞堵死人九孔，防止屍體腐朽之風。
唐宋時期隨著經濟文化的發展，寶玉石業呈現出進壹步繁榮。《唐書》記載：“德宗即位，遺給事朱如玉至安西求玉於於田，得瑟瑟(藍寶石)百斤並它寶等”。《五代史》有：“吐蕃婦人辮發戴瑟瑟珠，雲珠之好者，壹珠易壹良馬。”西安市郊何家村唐代金銀窖中的銀罐內出土有紅、藍寶石(頗黎)，野史上還有唐明皇收藏有貓眼石等寶石的記載。在玉器業方面，除了生產傳統擺件外，隨著貴金屬的廣泛應用，金銀鑲玉鑲寶首飾有很多發展，如出土的南唐之銀鎏金玉步搖、宋代的玉折之花飾等。提供用玉制硯、鎮紙、筆洗、墨床等文具以及銘刻佛經的玉器也都是此時期的壹個特點。在南宋出現了民辦寶玉石商品交易，如杭州(臨安)的“七寶社”出售玉花瓶和水晶、寶石等。從唐代開始，被視為廣義的寶玉石工藝品的壹個分支——硯石業得到了發展。如端州硯石開采始於唐武德年間。南唐後主李煜曾在歙州設置九品硯務官專門掌管歙硯生產與進貢事宜。
元明清三代的寶玉石行業有了更大的發展，生產、貿易和文獻著作空前繁榮。出現了大型玉雕，如元代的“山大玉海”，浮雕上的各種海獸栩栩如生，用玉料三千多公斤；清代的“大禹治水”玉山子重達五千公斤，這些工藝品反映了當時玉石開采、鑒定、雕琢技藝已經達到了新的水平。大力開發國內和國外原料，特別是乾隆年間，寶玉石業進壹步振興，大型玉雕“大禹治水”玉山子即為該時期的產物。國內寶玉石原料開發規模進壹步擴大，當時遼寧阜新地區瑪瑙開采近千人，乾隆四十壹年四月八日從新疆運回大玉料六塊三萬多公斤，民間私販也比較常見。緬甸翡翠開始由雲南大量輸入到中國，很快掀起了“翡翠熱”。印章石刻藝術品開始向民間發展，名貴品種不斷發現。其中主要有：福建的壽山石、浙江的青田石和昌化石、內蒙古的巴林石，而田黃、田白和雞血石的價值極高；寶玉石的著作亦有壹定的增加。
清末至民國寶玉石業由封閉轉向開放，寶玉石原石及其制成品品種有所擴大；加工工藝吸收了歐美經驗，掌握了托鑲、擠鑲寶石和鉆石的方法，北京、上海、河南、湖北等地湧現壹批優秀人才；寶玉石學術研究最有影響的是章鴻釗的《石雅》(1921年)和《寶石學》(1930年)。
建國後寶玉石業有了較快的發展，特別是近十年，寶玉石業在勘探、開采、加工工藝、改善技術、合成生產、科學研究和教育培養等方面都取得了很大的成就。
國內外市場動向表明，人們對寶玉石裝飾品和工藝品的需求量呈逐年上升的趨勢。據統計，自80年代以來，世界寶玉石市場成交額每年增長10%以上，個別品種每年增長達30%以上，在壹些國家寶玉石業占據國民總產值的60%，成為重要的生產資料和生活資料，在中國也是壹個新的經濟增長點。