于是又被石勒攻占。
褚裒北伐：抑郁而死
永和五年（349年），后赵皇帝石虎逝世，褚裒乘机上表北伐，即日下令戒严并领兵直指泗口。但当时朝内认为褚裒尊贵而责重，不应深入敌境，建议先遣偏师北伐。褚裒其实已经命督护王颐之入彭城示以威信，后又派督护麋嶷攻下邳。当时后赵守军都崩溃，下邳轻易拿下，褚裒于是以此上奏请求从速北进，以成声势。不久，朝廷加褚裒征讨大都督，督徐、兖、青、扬、豫五州诸军事。褚裒并领兵三万直入彭城。当时每日都有数以千计的北方士民来归降，而褚裒亦安抚招纳他们，很得他们欢心。褚裒又派部将王龛进攻沛国，掳后赵沛相支重并收降郡中二千多人。
及后鲁郡五百多家人起兵归附东晋，并向褚裒求援，褚裒于是派王龛及李迈率三千精兵迎接他们，但却在代陂大败于后赵南讨大都督李农，王龛更战死。褚裒在此败后引咎请求自贬，并退屯广陵请求留镇。但朝廷以王龛违反节度而不责褚裒，命他南镇京口，并解任征讨都督。
然而，褚裒南撤后西中郎将陈逵亦弃屯寿春，原本因为后赵国内大乱而南奔褚裒的大批人民因为褚裒南退而威势不继，不能自立，更遭慕容皝及苻健等人攻掠，几乎全部因而死亡。褚裒在北伐失败后，本已因忧愤而发病，到京口后看见因代陂之败而死去的大批将士遗属悲哭后更加感到惭愧和愤恨，就于当年十二月己酉日（350年1月1日）去世，享年四十七岁，当时举国对他的死去都嗟叹哀悼。朝廷追赠侍中、太傅，谥号为元穆。
殷浩北伐：贬为庶人
永和五年（349年），后赵皇帝石虎逝世，后赵随即就因诸子夺位而大乱，东晋朝廷亦决定乘后赵大乱而收复中原和关中地区，统一全国。殷浩于是在永和六年（350年）获任命为中军将军、假节、都督扬豫徐兖青五州诸军事。殷浩获任命后亦以平定中原为己任。另一方面，桓温亦上表北伐，但没有回音。桓温知道朝廷是想用殷浩抗衡自己，因而十分忿恨，但同时桓温亦熟知殷浩为人，故不为此感到害怕。后桓温因屡次请求北伐不果，于是在永和七年十二月辛未日（352年1月13日）上表后自行率约五万兵众东下武昌。此举令朝廷十分恐惧，殷浩亦因此而打算离职以避桓温，但被王彪之劝阻。
永和八年（352年），殷浩上表北伐，进攻许昌、洛阳。于是命淮南太守陈逵、兖州刺史蔡裔为前锋，谢尚和荀羡为督统，并开长江以西一千多顷水田作为军粮储备。但殷浩到许昌时，因谢尚不能安抚新归降的张遇，张遇于是在许昌据城叛变，并派兵进据洛阳和进攻晋军所据的仓垣，亦令殷浩军受阻。谢尚和新降的姚襄于是一同进攻张遇，但谢尚大败，退回淮南。殷浩知道谢尚兵败后亦退还寿春。
殷浩这次因张遇而无功而还，随即使打算再起兵。当年九月，殷浩驻屯泗口，又派河南太守戴施据守石门，荥阳太守刘遁据守仓垣，更罢太学，积极预备北伐。后殷浩暗中以关右的管辖权利诱苻健大臣梁安和雷弱儿等人杀死当年割据关中并称帝的苻健。不久，苻健杀大臣，其侄儿苻眉[2]则离开洛阳前赴关中，殷浩因而以为苻健已被梁安等人所杀，于是请求进屯洛阳，修复园陵。并于永和九年（353年）冬率七万大军大举北伐。殷浩当时以姚襄作前驱，但姚襄当时已经决心叛晋，于是在殷浩将到时假称部众夜间逃亡，暗中伏兵要偷袭殷浩。殷浩到山桑时就遭到姚襄军攻击，殷浩大败，并弃辎重而逃到谯城，姚襄在此战中俘杀万多人，所有军需物资都被他夺去。不久殷浩又派部将刘启和王彬之进攻姚襄兄姚益守的山桑，但被姚襄所败，二人都被杀。
永和十年（354年），桓温因着殷浩北伐失败而引起朝野怨恨，于是上表列举殷浩的罪行。朝廷遂将殷浩废为庶人，流放东阳郡信安县。殷浩但无怨言，仍然清谈不绝，家人亦看不出他有被流放的伤感。但殷浩每天都对空气写字，都在写“咄咄怪事”四字。而送别探望他的外甥韩伯时听他咏“富贵他人合，贫贱亲戚离”时亦哭起来。后来桓温打算征召殷浩作尚书令，并写信征求他的同意，殷浩大为高兴，连忙回信表示接受，但殷浩担心回信写得不恰当，又拆信修改，闭开十数次，最后竟然只寄出空的信封，令桓温十分不满，殷浩最后没有被征召。永和十二年（356年），殷浩逝世。
桓温北伐：光复洛阳
第一次北伐
永和十年二月己丑日（354年3月21日），桓温自江陵率四万步骑北伐，取道武关入关，又命水军自襄阳进至南乡郡；同时梁州刺史司马勋亦经子午道北伐前秦。桓温先派别军进攻上洛，俘获前秦荆州刺史郭敬，于是进击青泥城。前凉秦州刺史王擢见司马勋攻略前秦西部，于是进攻陈仓以作响应。
前秦皇帝苻健面对桓温大军北伐，派遣太子苻苌、丞相苻雄等人率兵五万驻屯峣柳以作抵抗。四月己亥日（5月30日），桓温在蓝田县与苻苌等军大战，虽然苻生单骑突陈杀伤不少晋兵，但晋兵在桓温的统率下仍大败秦兵；同时桓冲又在白鹿原击败苻雄军[2]。桓温在大败前秦军队后就继续向长安进发，进据灞上。当时苻苌等军退屯城南，苻健于是尽发精兵三万人，在大司马雷弱儿等人率领下与苻苌会合，只留六千老弱士兵留守长安小城。
当时前秦首都长安危急，三辅各郡县都来向桓温归降，桓温安抚并让居民恢复原来生活。当时居民又争相以牛酒劳军，又夹道观看前来的军队，老人更流着泪说：“不图今日复睹官军。”面对这个形势，顺阳太守薛珍劝桓温直逼长安，但桓温不听从，驻屯灞上后就没有进渡灞水，一直与前秦军相持，并打算收割当地的麦子作军粮以继续对峙。
但苻雄先率七千骑进袭司马勋，并在子午谷击败他。后又与诸军在白鹿原与桓温大战，杀晋兵万余人。前秦军更抢先一步收割麦子，而且实行坚壁清野，令桓温陷入缺粮困境。在战事不利和缺粮之下，桓温唯有在六月丁丑日（7月7日）迁关中三千多户人南归。苻苌见桓温退兵，更领兵追击，攻至潼关时已屡败晋军，伤亡数以万计。当时薛珍以桓温被逼退兵，当众称许自己之勇而指责桓温太慎重，于是被桓温所杀。
另一方面，进攻陈仓的司马勋和王擢虽攻破陈仓，但亦被苻雄所败，司马勋退回汉中而王擢回略阳。北伐至此结束。
第二次北伐：光复洛阳
桓温于永和十二年在江陵起兵，先遣督护高武据鲁阳，辅国将军戴施驻屯黄河上，以水军进逼许昌和洛阳，更请徐、豫二州派兵经淮泗入黄河协助北伐。桓温自己则从后领兵作众人继援。
八月己亥日，桓温到达洛阳城南的伊水，久围洛阳不破的姚襄于是撤去围城军，转而抵抗桓温，并在伊水水北的树林中埋伏精兵，试图诱使桓温率兵后退，在其后退时派伏兵突击。然而桓温拒绝姚襄后退的请求，姚襄意图依伊水而战，而桓温则结阵向前进攻，更亲身披甲督战，于是大败姚襄，姚襄逃到洛阳北山，及后更与余众西奔并州，桓温未能追及。
随后，周成以洛阳向桓温投降。桓温及后留兵戍守洛阳，并且置陵令，修复各个皇陵后就押著周成及带着三千多家归降的平民南归。第二次北伐至此结束。
第三次北伐
太和四年（369年），桓温上请北伐，并请与徐、兖二州刺史郗愔、豫州刺史袁真及江州刺史桓冲一同出兵。郗愔是在庾希因救援高平及鲁郡不力而被弹劾免职后受桓温所推[4]，然而其实桓温一直觊觎郗愔部下驻京口的军队，心中很不愿由郗愔统率这些部众。当时郗愔之子郗超是桓温心腹，明白桓温心思后就假作父亲书信，将父亲的徐兖二州刺史的职位让给了桓温，令桓温十分高兴。至四月庚戌日（5月22日），桓温终自所镇的姑孰领五万人出兵前燕。
桓温北伐至兖州，当时郗超顾虑汴水因战乱久未浚治，认为会影响漕运，但桓温不听。直至行军至金乡时就因天旱而令水军不能继续前进。桓温当时就命毛穆之开凿河道，引水令桓温水军得以继续前进，终成功进入黄河。
然而，郗超又进言，认为桓温入黄河之法是逆着水流而进，与东晋基地距离又远，难通漕运，担心前燕会拒守不战，令晋军陷入粮道断绝，无军粮继续北伐的困境。郗超于是建议桓温尽率全军直击前燕国都邺城，不论前燕逃回辽东后方、拒守邺城或出战与东晋决一胜负皆有利于北伐进展；另郗超又提议一个较稳健的策略，建议桓温守着河道，控制漕运，一直储蓄粮食，直至明年夏天方才继续进攻。郗超又认为若果不速战速决，当战事拖延至秋冬后，水量减少而北方早降温的客观条件之下，会令到晋军更难维持。但桓温都不听从。
桓温随后派檀玄攻取湖陆，更俘获慕容忠。前燕所派慕容厉率步骑二万进攻，桓温又于黄墟大败敌军。邓遐、朱序又在林渚击败燕将傅颜，前燕高平太守徐翻更投降东晋。前燕于是再派慕容臧率诸军抵抗桓温，但都失败。前燕见此，唯有派人向前秦求救。
七月，前燕人孙元率宗族党众起兵响应桓温，桓温于是移屯枋头。当时前燕皇帝慕容暐和太傅慕容评对战事发展都十分恐惧，打算北逃回辽东。但当时慕容垂自己请求进击桓温，慕容暐于是让慕容垂代替慕容臧率众抵抗桓温。同时，慕容暐又以虎牢以西的土地赂诱前秦派兵救援前燕，在王猛的支持下，苻坚于是在八月派苟池及邓羌率步骑二万救援前燕。
当时前燕司徒长史申胤就认为桓温“骄而恃众，怯于应变。大众深入，值可乘之会，反更逍遥中流，不出赴利，欲望持久，坐取全胜。”预料当晋军粮运出现问题时就会不战自败。当时，桓温以昔日归降东晋的段思为向导，前燕尚书郎悉罗腾却击败桓温军，生擒段思。另桓温所派的李述亦被悉罗胜和染干津所杀，令晋军士气下降。同时，桓温早前命袁真攻打谯国和梁国，意图开石门水道以通漕运，但袁真攻取二郡后却不能开通水道，令水路运输受到阻碍。
九月，前燕开始反击，慕容德率一万兵与刘当驻屯石门，李邽以五千豫州兵断绝桓温粮道。慕容宙则以一千兵设计击败晋军，杀伤大量晋兵。桓温见战事不利，又因粮食将竭，更听闻前秦援兵将至，于是在九月丙申日（11月4日）焚毁船只，抛弃辎重，循陆路退军。只留毛穆之为东燕太守。桓温经仓垣南归，途中凿井取水饮用。当时前燕诸军亦有追晋军，但慕容垂认为桓温新退必然提高警觉，并以精锐殿后，不如待晋军见燕军未至，专心从速南退时才大举追击，于是只领八千骑兵从后缓缓跟随。数日后，慕容垂见晋军加快速度，于是加速追击，并在襄邑追及桓温。另一向面，慕容德已经领四千骑兵率先在襄邑设伏，于是桓温在襄邑受两军夹击，晋军大败，死了三万兵。苟池所率的前秦兵亦在谯国邀击桓温，杀伤又以万计。十月己巳日（12月7日），桓温收拾散卒，驻屯山阳。叛归东晋的孙元在武阳据守，但都被前燕所擒。第三次北伐至此结束。
谢安北伐：收复黄河以南故土
淝水之战之后，谢安起兵北伐。东路的谢玄领北府兵自广陵北上，一路收复了兖州青州司州豫州，中路和西路的桓氏则出兵攻克了鲁阳和洛阳，并收复了梁州和益州。至此，淝水之战前秦晋以淮河－汉水－长江一线为界的局面改成了以黄河为界，整个黄河以南地区重新归入了晋朝的版图。
北伐节节胜利以后，司马氏和部分朝臣对谢安非常猜忌，世人也有怀疑谢安会像王莽那样篡位夺权。
谢安“素退为业”，主动交出手上权力，于太元十年（385年）四月自请出镇广陵，都督北伐军事。不久，刘牢之于邺城被慕容垂击败，谢安不得不调整部署，将进攻转为调整以巩固黄河防线。
8月，谢安病重，自广陵还京医治，由西州门入建康，不久，于8月22日，病逝建康，享年66岁，谥号曰文靖。
谢安葬礼同霍光、王导以及桓温等人同规格，有“九旒鸾辂，黄屋左纛，缊辌车，挽歌二部，羽葆鼓吹，武贲班剑百人”，为皇帝级别的葬礼。后谢安妻刘氏去世，也用同等葬仪。
刘裕北伐：灭掉后秦、南燕
公元397年北魏军攻下中山，后燕官吏兵投降两万余人，后燕的疆域被切断为南燕和北燕二部，405年南燕又发生政变。义熙五年（409年），刘裕率兵自建康出发。沿着水路，渡过长江、淮河、泗水，五月在下邳登陆，行军至琅琊[5]后又自东莞翻过大岘山，与燕兵战于临朐南，刘裕派参军檀韶、建威将军向弥秘密绕道到达燕兵背后，偷袭临朐得手。南燕君主慕容超只能前往救援临朐城南的段晖，被追击的晋军重创，南燕十余名大将被杀，慕容超逃往广固，晋军缴获大量战利品[6]。晋军围攻广固，慕容超只知消极死守，不发挥自身骑兵多机动性强特点，打击对方粮道以及寻找对方薄弱处实行分割包围歼灭，任由对方就食于本国。于义熙六年正月（410年）被晋军攻破广固，俘虏慕容超送至建康斩首，南燕灭亡。
416年姚兴卒，后秦内乱不断，镇守蒲坂和岭北的姚懿、姚恢先后率叛军进攻长安。八月，在平定了荆扬之争四年后，刘裕开始第二次北伐。晋军分为五路，王镇恶、檀道济部为前锋，自寿阳出发，渡过淮河和淝水直插许昌、洛阳[7]。新野太守朱超石、宁朔将军胡藩进攻阳城。振武将军沈田子、建威将军傅弘之进攻武关。建武将军沈林子、彭城内史刘遵考带领水军出石门，自汴河进入黄河，以冀州刺史伍仲德督前锋诸军，开巨野泽入黄河。刘裕率领军驻扎在彭城作为后援。
义熙十三年（417年）正月，晋军王镇恶部连克项城，许昌。朱超石部开至阳城，沈林子攻克仓桓，王仲德攻克滑台，这四支部队在洛阳会师。后秦因太原公姚懿、齐公姚恢相继作乱，为晋所乘。秦主姚泓遣越骑校尉阎生帅骑三千救之，武卫将军姚益男将步卒一万助守洛阳，又遣并州牧姚懿南屯陕津，为之声援。但在救援来到之前，洛阳已被晋军攻破，于是援兵回撤。
二月，晋军分兵两路，王镇恶部进军淹池，袭占弘农，并到达潼关。另一路檀道济部攻击蒲坂不克，回师到潼关与王镇恶部一起进攻潼关，秦军出城迎战被击败，潼关失守。七月，晋军沈田子部攻破武关。八月，刘裕击退骚扰的北魏军，到达潼关。此时，刘裕调整部署，派王镇恶带领水师沿着渭河西进，另一部由沈田子自青泥出发，剩下分成两支，由刘裕和朱超石带领进攻定城、蒲坂。王镇恶部于灞上大破后秦军，杀死后秦镇北将军姚强，恢武将军姚难逃往长安。沈田子部又于青泥重创秦主姚泓。王镇恶部又在渭桥击溃姚丕与姚泓部，猛攻长安得手，秦主姚泓投降，后秦灭亡。
这年冬天，刘裕心腹刘穆之突然病死，刘裕恐国内生变，不得不返回建康。临行留下年幼的次子刘义真镇守关中，并以王修为长史行事，总管一切事务。但由于内部失和，关中之地被胡夏赫连勃勃夺取。刘裕精锐部队北府兵遭到重创，短时间内无力北伐。422年初，刘裕在建宋称帝的第三年，准备出兵北伐北魏，但因为同年刘裕病卒，北伐取消，北魏反而趁机攻下刘宋的河南地区。
