東晉在江南建立之時，中國北方陷入混戰，黃河流域成為匈奴、頡頏、鮮卑、氐羌五大少數民族與漢族的必爭之地，分別建立自己的國家，爭霸天下，國家不斷建立和滅亡。
從永興元年(304)，匈奴貴族劉淵建立漢國，建興四年(365，438+06)滅西晉，北魏太炎五年(439)統壹北方。在這65，438+030年間，北方各民族相互征戰，先後建立了趙倩(匈奴)、後趙(桀)和趙倩。
北燕(漢)、夏(匈奴)等十五個政權，與西南巴狄族建立的十六國壹起，長期與東晉漢政權對峙，史稱蕪湖十六國。
除十六國之外，先後建立的政權有韓冉閔、丁建立的魏、武都邊帥楊建立的國、鮮卑慕容氏和鮮卑拓跋氏建立的西燕五個，共計21個政權。在上述政權中，後趙、顏倩和前秦都占據了北方大部分領土。
東晉雖然偏安江南，但皇帝在位時希望收復北方領土。從北方遷到南方的人常常思念家鄉，於是壹些仁人誌士多次北伐。其中，王、謝、桓、郁四大世家大族對北伐采取了不同的態度。因為宗族已定居江南，南方的豐厚資產使得回歸北方的意願較低。東晉時期多次北伐，其中不乏名將。
東晉初，朝廷采取攻守的態度抵禦北方。317年，祖逖打算北伐，晉武帝只給了少量兵力，命令他前進。他招募難民建立軍隊，與當地的碼頭堡合作。最後，他成功收復了黃河以南的領土，並與施樂隔河相持。但由於東晉內亂，朝廷擔心他威望太高。321年，戴源被任命為河北巡撫，從而結束了收復河北的計劃。祖逖死於悲傷和憤怒，他失去的土地被收回。
王敦不用擔心祖逖的死，然後他就叛逃了。祖逖的軍隊由他的弟弟指揮，最後和蘇軍壹起叛逃..晉稱帝後，郁亮和兄弟主持北伐戰爭。他們以荊州為中心，打算發動北伐。但由於法院的抵制，沒有實現。俞氏兄弟死後，桓溫被任命為荊州刺史。他向往劉琨、陶侃的事跡，以北伐為己任。
346年，晉穆帝時，桓溫討伐程漢(338年程漢為李壽篡位，改國號韓)，次年被殺。桓溫名氣太大，家族嫉妒，執政的司馬懿帶領殷浩與之抗衡。
公元349年石虎去世，晉朝派楚太祖北伐，結果失敗。桓溫多次希望北伐，但被金庭拒絕，於是由殷浩負責北伐。
352年，殷浩聯合羌兵北伐姚襄至前秦，被苻堅擊敗。次年，殷浩再次北伐，遭到姚襄的攻擊。
354年，金廷不得不撤換負責北伐的桓溫。桓溫先後三次北伐，同年二月，征服前秦。但由於福建的清場戰術，打敗了金軍，桓溫最終因缺糧而敗退。
356年，桓溫討伐姚襄，大敗收復洛陽，建皇陵。
358年，他建議遷都洛陽，但遭到宗族反對。晉哀帝和晉妃(即司馬懿)相繼稱帝後，桓溫已經控制了朝廷。當時北方呈現秦、燕兩強的局面，洛陽被顏倩占領。為了準備篡位，桓溫於369年討伐顏倩。當時燕軍大敗，金軍進入房頭(今浚縣附近)與燕國大將慕容垂對峙。最後，晉軍因缺糧而撤退，慕容垂率軍殺了他，晉軍大敗。
371年，桓溫廢晉帝司馬懿為東海王，改司馬懿為簡文帝。第二年，簡文帝死了，晉孝武帝繼承了王位。373年，桓溫要求“九錫”，意思是取代金。大臣謝安、王推辭此事，不久桓溫病死，東晉得以保全。