這裏是人類始祖的發源地，有盤古開天地、華夏祖先伏羲女媧成婚、女媧補天、軒轅黃帝祈天破蚩尤、大禹治水等神話傳說。原始社會末期，位於黃河流域中遊的懷川文明就吸引著四方百族，成為華夏民族發祥地的中心地帶。
這裏是商湯革命的起始地；是武王伐紂的前沿根據地；是後漢光武中興的大本營；是“正始玄風”的策源地和以八卦為靈魂的太極文化的產生地；是水利文化、度假村文化之根所在；是中國46姓和日本的阪上、大藏、原田三姓之根脈地。
神農祭天處、嘗百草處、藥王孫思邈活動遺跡等，顯示著古代農業和醫藥的起源。出土眾多的陶瓷文物及當陽峪陶瓷遺址，顯示著懷川是發達的陶瓷文化之根；由大禹首次頒發的《夏小正》是中國的歷法之根，發源於陳家溝的太極拳、月山寺的八級拳和凈影寺的猿拳，證明懷川是中華武術之根，這裏還是道教中心和佛教聖地。
這裏是諸多大師泰鬥的故裏。孔子、李白、白居易、韓愈等數不清的歷史名人在此或遊歷、或隱逸、或葬歸於此。魏晉時的“竹林七賢”曾在修武百家巖隱居遊覽，影響頗大。
焦作地處黃河中下遊北畔，農業開發歷史悠久，具有精耕細作的優良傳統。早在七八千年前，這裏就有人種植粟等糧食作物。從焦作地區發掘的新石器文化遺址中，除發現有大量的石鏟、石斧、石鐮、蚌刀等生產工具外，還有水井、房屋等原始農業生產跡象。春秋戰國時期，當地的農業已十分發達。焦作古代的手工業也十分發達。以采礦、冶煉、制陶、編織和工藝美術為主。戰國時期已有了煤炭開采業，至明清時期具有了相當的開采規模，延續至今，使焦作有“煤城”之稱。從考古發掘的文物看，春秋時期這裏已開始青銅器制作，東漢時山陽已成為全國較大的冶煉基地之壹，宋代出現了以制作兵器、農具為主的作坊群。
據史誌記載，全市有60座歷史古城，其中城區有6座；祠廟335所，其中城區70多所，現在統計，全市有不可移動的文物古跡點833處，其中國家級重點文物保護單位6處，省級44處，縣級492處，城區內有不可移動的文物古跡點214處，其中國家級重點文物保護單位1處，省級6處，市級81處。道清鐵路、澤煤盛礦井、福公司辦公房和錢莊等體現著近代煤城的歷史；焦作工學院（今河南理工大學）是河南省最早的高等院校。傳統的歷史文化在當今焦作仍熠熠閃光，得到了繼承和發展。
黃帝時期，是壹個中華民族發明創造的時代，農耕、住宅、漁獵、制衣、蓄水、制作陶器等百業興起。皇帝崇尚“科學”，對於有發明創造的人，就封官加賞，指派他專門負責某壹個行業的事務，發揮其專長。
焦作壹帶為“寧”的封地。寧是壹個人名，是焦作壹帶的部落首領。這壹帶土地，也因此部落首領的名稱，被稱為“寧邑”。至今修武簡稱為寧，雲臺山名為“寧北山”，就是因為有著這麽壹個文化淵源。
黃帝的名字，出自對黃色的土地的開發，對農業的開發。同壹個時期，寧這個人為什麽被以寧命名？是與家庭血緣文化有關，與生育文化有關。是寧這個人結束了無家族、家庭的人類社會狀態，開始以血緣關系組成家庭居住方式，以生育親養關系區別、延續、壯大後代。創立了以家庭作為社會細胞的社會組織方式。
焦作壹帶，故稱懷川，又叫河內。黃帝部落活動於河南、河東，開始了農業文明的時候，三河之中的河內寧部落，開始了家族文明。河內，山環水抱之間，河流縱橫，湖澤相連，水豐土鹹，林草深密。多水之鄉的寧人，崇尚火；家族文化的肇始，需要火。泥土中固定保留火種的地方，泥土燒出陶質，給了寧人制作陶器的靈感。
寧地的土質適合制作陶器，這有後世當陽峪制作絞胎瓷、絞胎陶為證，有宋代焦作遍地陶窯、瓷窯為證。寧首制陶器，擅長制作陶器，黃帝封其為“陶臣”，人們尊稱其為“子”。這個“子”，是孔子的“子”，是先生的意義，是有所授受的意義，後世祀奉其為陶神。
公元1896年（清光緒二十二年），意大利人羅莎第以代理牧師身份，打著調查“中日戰後情形”的旗號來到中國，發現了焦作這塊蘊藏著優質無煙煤的寶地（焦作無煙煤被英國女王稱為“香砟”，選作皇家專用）。羅莎第返回歐洲後，於1897年3月在英國倫敦坎農街10號組織起了壹個英意聯合公司，並按照英國法律註冊，命名為英國福公司，簡稱福公司，隨後在北京設立辦事處，由英國駐滬總領事詹美森任總董，策劃掠奪山西和焦作的煤炭資源。他們采用施加壓力，玩弄經濟手段等方式，迫使清朝政府就範，並通過河南巡撫劉鶚做英國福公司買辦，來拓展福公司在華業務。1898年3月27日，由光緒皇帝欽準，清政府總理衙門與福公司簽定了《河南開礦制鐵以及運輸各色礦產章程》合同九款，1902年7月20日，福公司在未經清政府正式簽約批準的情況下，公然開工修築道口三裏灣碼頭至焦作礦區的鐵路。該年年底才與清政府議定道（當時浚縣道口鎮，今滑縣道口鎮）澤（當時山西澤州，今山西晉城市）鐵路章程。次年，清政府允許福公司修建“道澤鐵路”的道口至清化（當時河內縣清化鎮，今博愛縣清化鎮）壹段線路。
河南省最早供自來水的城市是焦作，始於1908年，當時英福公司利用煤礦壹、二號井，安裝上抽水設施，井臺上建壹外磚砌方形，內鐵質圓形水塔，抽水至塔，通過管道供自來水。
河南省最早使用電燈、路燈的是焦作，始於1919年，當時英商福公司及其職員家戶均有電燈。中山東街（現新華街）裝路燈十多盞，牛鈴式燈型。
河南省最早的壹個發電廠是焦作電廠。其前身是英商福公司焦作煤礦附設電廠，建成於光緒三十壹年（公元1905年）。
1925年爆發的焦作英商福公司煤礦工人大罷工，其時間之長、規模之大、聲勢之猛，在我國的工人運動史上是少有的。它沈重地打擊了帝國主義在焦勢力，有力地動員鼓舞了焦作民眾。它聲震中原，譽滿神州,得到了全國各界人士和著名***產黨領導人的極大關註。瞿秋白、劉少奇、趙世炎、王若飛等就曾先後著文和談話進行評價和贊揚。1926年3月13日，即焦作罷工工人簽署復工條件的第十壹天，毛澤東在《中國青年》上發表了重要文章《中國社會各階級的分析》。文中，毛澤東熱情洋溢地把焦作煤礦大罷工與香港海員罷工、京漢鐵路罷工、開灤煤礦罷工、廣州沙面罷工以及“五卅”慘案後上海、香港等地的罷工相提並論，稱贊他們“特別能戰鬥”，對焦作煤礦1925年反帝大罷工給予了極高的評價。
從此，焦作煤礦工人“特別能戰鬥”的徹底革命精神，成為全國人民進行革命鬥爭和社會主義建設的***同財富。直到現在，“特別能戰鬥”精神還壹直被各行各業沿用，引申出“特別能吃苦”、“特別能忍耐”、“特別能奉獻”等壹系列思想理念，激勵著人們勇往直前。民族主義精神、愛國主義精神、集體主義精神、犧牲奉獻精神構成了焦作煤礦工人“特別能戰鬥”精神最深刻最豐富的內涵
焦作早在8000年前的氏族公社時期就有人類居住。
夏朝 屬冀州，稱覃懷地。
商及西周 屬畿內地，分屬雍、邗、溫三國。
東周 為晉南陽地。
戰國 屬魏、衛二國地。
秦 屬三川郡。
西漢 屬冀州河內郡。
東漢 屬司隸部河內郡。
三國 屬魏國冀州河內郡。
晉 分屬司州河內郡、汲郡、滎陽郡。
南北朝 分屬司州河內郡、滎陽郡。
後魏 分屬懷州河內郡、武德郡、司州汲郡、東恒農郡。
隋 分屬河內郡、汲郡、滎陽郡。
唐 分屬河北道懷州河內郡、河陽三城使孟州、河南道河南府河南郡、鄭州滎陽郡。
五代 分屬懷州、孟州、鄭州、開封府。
北宋 分屬河北西路懷州河內郡、京西北路濟源郡、京西路鄭州奉寧軍制、京畿開封府。
元 分屬燕南河北道懷慶路、孟州、河南江北行省卞梁路。
明 分屬河內布政使司懷慶路及開封府。
清 屬河南省懷慶府。
1913年，河內縣改為沁陽縣。1927年沁陽縣東部劃出，成立博愛縣。1945年9 月8 日建立焦作市。1948年3 月改為焦作縣。1949年10月15日，改為焦作礦區，劃歸平原省新鄉行政專員公署領導。1952年11月15日，平原省撤銷，焦作礦區劃歸河南省新鄉行政專員公署領導。1956年7 月9 日，改為焦作市，由河南省直接領導。1959年12月1 日，修武、博愛兩縣劃歸焦作市領導。1960年8 月15日，撤銷修武、博愛兩縣建置，並入焦作市；撤銷溫縣建置並入沁陽縣。1961年10月5 日，恢復修武、博愛、溫縣建置，歸新鄉行政專員公署領導。1974年1 月19日，焦作市屬河南省和新鄉地區雙重領導。1982年3 月，焦作市劃為省轄市。1983年9 月1 日，修武、博愛兩縣劃歸焦作市領導。1986年1 月，溫縣、武陟、孟縣、濟源、沁陽五縣劃歸焦作市領導。1988年，濟源縣改為濟源市。1989年，沁陽縣改為沁陽市。1997年，孟縣改為孟州市，濟源市歸河南省直接領導。2002，焦作市轄沁陽市、孟州市兩市，修武縣、武陟縣、溫縣、博愛縣四縣和解放區、山陽區、中站區、馬村區四個城區，計116 個鄉（鎮）辦事處。