戰國時期，從魏手中奪取了函谷關的土地，並在此建立了函谷關。
戰國時期，除秦國外的其他六國都曾與秦國交戰，但秦國在函谷關成功抵禦了六國聯軍的進攻。
西漢賈誼著名政論《論秦》寫道:“所以六國之民...嘗十倍地百萬人，叩關攻秦。
秦人開關以延敵，九國之分，徘徊而不敢進”，其中“關”指函谷關，可見其戰略影響力。
由於函谷關易守難攻，秦末反秦起義後，新建立的楚懷王宣稱誰先入關誰就是關中之王，這裏也就是函谷關。
之後，劉邦先入山海關，但並沒有直奔函谷關。原因是函谷關易守難攻。此外，山海關是秦朝的首都鹹陽，守衛函谷關的秦軍肯定是精英。為了躲避進攻，劉邦接受了張亮的建議，繞道進入山海關。
但項羽對劉邦先入關不滿，在鴻門設宴，但又不想違背楚懷王當初的公告。因此，劉邦被追封時被封為王霸，後被封為漢王。
巴、漢雖然也屬於關中關(函谷關以西)，但在當時是未開化的不毛之地，甚至是秦、秦用來流放罪犯的地方。
但劉邦還是成功地在漢中積蓄了力量，最終在楚漢之爭中擊敗了項羽。
西漢建立後，在關設置校尉，守關。
漢景帝初，七國之亂爆發。吳派群臣去遊說齊王焦，說:“幸而王許下諾言，故吳王引楚王上書谷關，保衛敖倉之粟，拒漢兵，治二府，故必為王。”
丁原三年(公元前114年)，漢武帝告訴楊仆，已遷到新安(今河南新安縣)東界，以谷關為弘農郡，管轄弘農郡。
王二年(公元7年)，等在關東起兵守函谷關。
東漢初，王霸調遣函谷關，攻打滎陽、中牟賊，平定之。
王元說，肖偉說:“請用壹粒泥封住東邊的函谷關。如果妳搞不清王者，危害就足以欺負妳了。”。
漢桓帝初平二年，在林園打獵，到函谷關。
耽誤了九年，有幸到了函谷關。
漢光和帝五年，他去森林打獵，經過漢光谷，到了廣成苑。
獻帝初平二年，眾多豪傑起兵討伐董卓。董卓強行把獻帝從洛陽遷到長安，是因為函谷關堅固易守難攻。
魏正始，從弘農太守孟康延，移至函谷關，改稱大沽關，成為金關關。
西晉大安二年(303)，八王之亂如火如荼。河間王司馬昱調兵遣將管仲令屬下張放上書顧關，東侵洛陽。
在接下來的兩千年裏，地勢險要的函谷關經常成為軍事鬥爭的對象，包括唐朝的安史之亂，甚至抗日戰爭。