太原失陷後，1937 113年10月八路軍129師在山西和順縣石拐鎮召開幹部會議，傳達了中央和毛澤東關於以太行、太嶽為根據地建立晉冀豫抗日根據地的指示，布置了開展大範圍遊擊戰爭的任務。會後，師參謀長倪誌良、政治部副主任宋任窮率工作組和部分武裝分別趕赴沁縣、長治、晉城、武鄉、襄垣、平順、沁源、安澤、屯留等地。他們與中國地方組織、山西錫盟會、敢死隊密切合作，通過宣傳中國* * *產黨的抗日政策，進行了舊政權的改造和減租。各種形式的抗日武裝和抗日民主政權迅速在晉東南和冀西建立起來。
鄧小平接替章昊擔任129師的政治委員。二月初，壹二九師在遼縣召開軍政委員會和團以上幹部會議，對進壹步戰略發展、遊擊戰爭和創建抗日根據地作出部署。2月下旬，129師派部分幹部配合晉豫邊區特委發展抗日遊擊隊。至此，晉冀魯豫邊區的抗日遊擊戰爭如火如荼。範圍包括晉冀魯豫抗日根據地發展到北至晉察冀邊區，東北至津浦路，西至同蒲路，南至黃河的廣大地區。
晉冀魯豫抗日根據地的開辟，對日軍構成極大威脅。日軍為了維持後方交通，鞏固占領區，調集大量兵力進攻根據地。1937 65438+2月下旬，129師在壽陽、昔陽地區打了壹場7000余撤退騎兵的六路圍攻戰。
1938 65438+10月中旬，129師38 6旅副旅長陳再道率壹支東進縱隊挺進冀南，發展冀南抗日遊擊戰爭。1938年2月，129師和115師344旅為了協調晉南、晉西的友軍，多次進攻日軍據點鄭泰鐵路。3月中下旬，129師在許指揮下，在漢(丹)-昌(治)公路上，取得了潞城歙縣神頭嶺、響堂鋪兩次伏擊作戰的重大勝利，* * *殲敵1500余人，擊斃、俘虜騾馬700余匹，擊毀敵運輸車輛180余輛。4月初，日軍調集3萬余兵力，分九路進攻晉東南抗日根據地。八路軍、山西新軍積極抗擊圍攻。八路軍采取以廣泛的遊擊戰阻擊和消耗敵人，集中主力壹路突圍的作戰方針，並於當日對付偽軍。4月16日，129師主力在武鄉縣長樂村包圍日軍壹部，擊斃1500余人。各路敵軍被迫相繼撤退。4月下旬，日軍九路圍攻被打破。在這次反圍攻行動中，* * *殲滅4000余人，收復18縣城。以太行山為根據地的晉冀魯豫抗日根據地進壹步鞏固和擴大。
4月下旬開始，129師將部隊分割到冀南、豫北等平原地區。到8月初，它已經在河北南部的大多數縣站穩了腳跟。8月中旬，召開晉安區軍政人代會，成立晉安區行政主任辦公室，楊秀峰任主任，宋任窮任副主任。在豫北，8月下旬至9月上旬，129師為牽制日軍對潼關、洛陽的進攻，開辟漳河以南地區，進行張南戰役，殲滅偽軍7800余人，收復滑縣、浚縣等城鎮，配合地方黨組織在安陽、內黃、湯陰三縣建立抗日政權。至此，奠定了冀魯豫邊區抗日根據地的基礎。8月，晉安區行政主任辦公室成立，楊秀峰任主任。至此，冀南抗日根據地基本形成。