在人類社會進入工業社會之前，人們對地下水的認識僅限於對地下水起源的推測和找水打井方法的經驗總結。
早在公元前1000年，我們的祖先就知道井的使用和保護方法。比如《易經》裏有壹句話，“嗯，寒泉食。？用石則潔而不濁，用之則養而不窮，井之功大矣。”即用磚(或石頭)砌井壁，可以使井水潔凈，適量取水，使井水不會幹涸。
早在春秋時期，《管子》就描述了如何根據土壤和植物種類的顏色來判斷地下水的深淺和好壞，根據巖石的性質來判斷是否有地下水，如“庚泥(混合沈積物)，無泉”，“紅土(即紅土)，無泉”等等。
隨著地下水開發經驗的積累，明代徐光啟在他的《農政全書》(1639)中對地下水開發的技術進行了更為深入的科學總結，如“凡掘井，山麓之上，泉出。那些挖井的，檢查泉水的存在，考慮避開。”判斷地下水深淺的方法是“井與河脈相通，其水有淺有深，規模必須相等。今天這口井有多深？天旱，河閉，宜度之；考慮深化幾何，去做吧，不管誰去河邊。”所以當時就知道泉水是地下水的自然露頭，所以壹方面要考慮地形，另壹方面要根據泉水的出露情況來選擇井位。同時指出，地下水與河流附近的河水有著密切的關系，因此可以通過河水的水位來推斷地下水的埋深。
在具有文明古國歷史的歐洲，工業革命前的自然科學家和壹些哲學家主要關註自然界的水循環和地下水的起源。
公元前15世紀，羅馬人馬庫斯·維特魯威(Margusvi Chaos)首先提出了水循環的概念。他認為水通過融雪滲透到山區的地下，在較低的地方作為泉水出現。到公元前4世紀，對地下水的認識有了很大的進步。比如古希臘哲學家亞裏士多德認為，地下水是在像海綿壹樣復雜的地下空隙系統中生成的，它從空隙中排入泉水。亞裏士多德正確地認識到壹些洞穴水來自雨水。
從紀元開始到西歐文藝復興時期，外國學者對水文地質學的形成提出了以下有意義的觀點。著名的伊朗哲學家和科學家謝赫·阿布·賴汗(973 ~ 1048)第壹個對自流井的形成機制給出了正確的解釋。但真正關於自流井的文獻出現在Autonio Vallisnieri於1715年發表的關於意大利北部自流井的論文中，並附有最早的自流井地質剖面圖。其次，需要指出的是，中世紀傑出的烏茲別克學者阿勃雷·拉伊和阿拉·比魯尼(數學家、天文學家和物理學家，公元937 ~ 1048)正確地指出了靜水壓力對地下水運動的作用，解決了壹些實際的水問題。需要提出的是17年底關於地下水的壹些科學實驗。法國科學家皮弗爾·佩羅特(1608 ~ 1680)的蒸發和毛細上升高度實驗證實，毛細上升水不是水面以上的自由體，它在砂層中的高度小於1 m..埃德姆·馬略特(1620 ~ 1684)在巴黎天文臺測量了雨水入滲量，所以兩人都認為泉水是由降雨入滲到地下而得到補給的。馬裏奧特的論點被發表在他死後1690在巴黎出版的壹本書裏。
水文地質學的真正形成可以認為主要是在公元18世紀末至20世紀初(人類進入工業化社會的20世紀20年代)這壹時期。隨著工農業的迅速發展，城市的擴大和人口的增加，對水的需求急劇增加，這導致了更多的礦藏開采和與礦井地下水的鬥爭。因此，工業化的進程促使科學家重視地下水的研究，水文地質學由此誕生。
地下水的成因和地質條件的研究是水文地質學的基礎理論。它是在眾多學者對各種專題研究成果的基礎上逐漸積累起來的。關於地下水起源的爭論，其實從18世紀開始，歐洲很多科學家通過各種實驗和水平衡計算，地下水的降水入滲補給理論得到了大多數學者的認可。此外，人們還註意到了地下水成因的凝結說、埋藏說和原生說。
地下水與地質條件的關系是許多關心地下水的學者最早研究的問題。許多地質學家對專門問題作出了貢獻，例如，許多荷蘭地質學家對了解沿海沙丘的地下水作出了貢獻；俄羅斯地質學家對凍土區地下水的成因進行了深入研究；日本地質學家和地球物理學家研究過溫泉；法國的A.Daubree很早就發表了地下水地質學的論文；地質學家H.T.Stearns在他的地質學專著《夏威夷島》中論述了火山巖與地下水起源的關系。戴維斯(W.M.Davis)和布雷茨(J.H.Bretz)發表了許多關於石灰巖洞和地下水之間關系的著作；南非地質學家杜托伊特出版了壹本關於南非基巖地區地下水的專著。在1923中，美國地質調查局的O.C.Meinzer對美國的地下水做了壹個總結性的描述，同時他明確地把水文地質學列為地球科學的壹個新分支。
在水文地質學的形成過程中，自19年底以來，俄羅斯學者做出了巨大貢獻。19年底，俄羅斯成立地質委員會。卡爾賓斯基、索科洛夫等學者進行了壹系列的水文地質調查，為區域水文地質學奠定了基礎。1880年至1890年，索科洛夫撰寫了第壹部綜合性著作《俄羅斯南部的自流井》，尼基丁出版了專著《俄羅斯平原的潛水與自流井》；1914莫斯科水利工程學院工程系成立俄羅斯第壹個水文地質教研室；1920十月革命後，在莫斯科礦業學院開設了俄羅斯第壹個水文地質學專業。1925年，A.H. Semikhatov出版了專著《蘇聯地下水》，標誌著蘇聯水文地質學的正式形成。
地下水的運動理論主要是由許多水力學和給水工程專家發起的。第壹個在這方面做出最大貢獻的人是法國水力科學家亨利·達西。他根據自己的實驗，在1856年發現了沙土中水的層流規律，奠定了多孔巖石地下水運動理論的基礎。7年後的1863年，另壹位法國水利學家Jubs Dupuit在達西定律的基礎上提出了地下水流向水井的運動公式，從而奠定了地下水穩定流理論的基礎。在1876中，德國的Adolph Thiem對Jubuyi公式進行了改進，改進後的公式可以準確計算含水層中壹口井抽水時鄰井的水位效應。1886奧地利人Philip Forchheimer在研究含水層地下水運動時引入了等勢線和流線的概念。他第壹個將拉普拉斯方程和映射方法應用於井流理論的計算。1934年，俄羅斯學者卡明斯基發表了第壹部地下水動力學專著。1935年，C.V.Theis在熱傳導理論的基礎上建立了不穩定井流公式，標誌著地下水動力學理論的基本形成。
地下水質量或水化學理論建立得較晚。雖然早在人類利用地下水的早期就開始了對礦泉水和礦泉水的研究，但主要局限於對水的物理性質和醫療功效的認識。真正的水化學和水文地球化學開始發展是在19世紀後期。早期的水化學研究由德國的B.M.Lersch於1864和加拿大的T.S.Munt於1865進行，Munt做了壹些早期的地球化學解釋。在北美，現代水文地球化學研究始於F.W.Clarke，他在1910 ~ 1925年間發表了系統的水文化學專著，包括大量的水分析和地球化學解釋。同壹時期，俄羅斯學者格拉西莫夫在1920出版了專著《俄羅斯的礦井水》。1948年，蘇寧對油田水的水化學進行了深入研究，提出了地下水化學類型的劃分。Alekin於1953年發表的《水文地球化學原理》標誌著俄羅斯水文地球化學科學的正式形成。
中國現代水文地質學發展較晚。直到20世紀30年代，金亮、謝、王玉、馬振圖等人才在南靖、安陽等地進行了零星的地下水調查，而水文地質學的真正發展是在新中國成立以後。