桓温班师返回荆州后，遣西阳太守滕畯出黄城，讨蛮贼文卢等，又遣江夏相刘岵、义阳太守胡骥讨妖贼李弘，皆破之，并将此两贼的首级传送建康。此后，南方在很长的一段时间里面再无重大纷争。但是，北方的战火却继续燃烧。

鲜卑族首领段龛自永和六年（公元350年）七月从陈留引兵东进，占据青州，他以广固（山东省青州市）为大本营，自称齐王。数月之后，到了永和七年的一月，他就以青州投降了东晋，被东晋朝廷封为镇北将军、齐公。驻守在厌次（山东省阳信县境）的前燕乐陵太守慕容钩自恃宗室身份，总是欺辱顶头上司的青州刺史朱秃。永和十年（公元354年）七月，朱秃率军偷袭慕容钩，并将其杀死，率众南逃到广固，依附于段龛。同年八月十一日，燕主慕容儁大规模调动军队，准备讨伐段龛。

永和十一年（公元355年）一月，段龛奔袭慕容儁的部将荣国，在郎山将其击败。取得胜利之后，段龛下书慕容儁，指责慕容儁称帝是一种背信弃义的行为。慕容儁得书大怒，永和十一年十一月，他命令太原王慕容恪为大都督、抚军将军，阳鹜为副将，与慕容尘所部一起发兵南下，攻击段龛。

永和十一年年底，慕容恪的前燕军队来到黄河北岸。段龛的弟弟段罴对段龛建议说：“慕容恪善于用兵，并且前燕军队人数众多，如果听任其渡过黄河，兵临城下的话，恐怕到时候即使是再想请降也办不到了。请兄长固守城池，我愿率领精锐部队前往黄河南岸抵御，万幸如果战胜，那么，哥哥再率领大军随后增援，一定能获全胜。如果我不幸战败，那还不如早早投降，尚不失为当上个千户的侯爷。”但是段龛却对自己的弟弟放心不过，拒绝分兵给段罴带领，也拒绝离开广固。由于段罴还没完没了地继续请求，段龛因此大怒，就将其诛杀了。

永和十二年一月，前燕太原王慕容恪率领大军渡过了黄河，段龛率领三万步骑兵前来迎战，正月三十日，慕容恪在淄水大破段龛军，抓获了段龛的弟弟段钦，斩杀了段龛的右长史袁范等人，段龛仓皇逃回了广固城固守，慕容恪进军围住。

其后，段龛整顿军队，又趁着慕容恪大胜之后军队出现懈怠的机会，突出城来，大败了慕容恪军。慕容恪其后整军卷土重来，分遣部将四处招抚段龛所属各郡县，从南边远距离地包围了广固，遮断了段龛与东晋军队的联系。

慕容恪一直包围了广固半年之久，段龛眼看再这样下去就只能坐以待毙，于是，派遣他的亲属段蕴突出重围，前往东晋求救。晋穆帝为之下诏，命令驻守下邳（江苏省邳州市）的徐兖二州刺史、北中郎将荀羡领兵北伐。

荀羡（322年—359年），字令则。颍川郡颍阴县（今河南许昌）人。东晋大臣，曹魏太尉荀彧六世孙、光禄大夫荀崧之子。荀羡七岁的时候，遇上苏峻反叛，随父在石头城，苏峻很喜欢这孩子，常置于膝上。荀羡耳语其母说：“得一利刀子，足以杀贼。”母连忙掩其口说：“你可别胡乱说话！”。荀羡十五岁的时候，被晋元帝司马睿之女寻阳公主看上了，但荀羡因为不想与皇室结为姻亲关系，竟奔外远走逃婚，不过，还是被负责监察的官员捉住而被逼成婚。成年后，荀羡与王洽齐名，并与刘惔、王濛及殷浩交好。

荀羡后拜秘书丞、义兴太守。后又任征北将军褚裒的长史。永和四年（348年），时任扬州刺史的殷浩擢升荀羡为建威将军、吴国内史，共同抗衡桓温。永和五年（349年）十二月，当时兼领徐州刺史的褚裒逝世，殷浩让他任北中郎将、徐州刺史，假节监徐、兖二州及扬州之晋陵诸军事，镇守京口（今江苏镇江）。当时荀羡以二十八岁之龄担就当此重任，亦成为了东晋以来最年轻的担任州刺史职务的官员。永和六年（350年），荀羡入朝述职，当时领司徒蔡谟三年以来坚拒接受司徒一职，终被弹劾，蔡谟亦到廷尉等待判罪。当时殷浩打算加蔡谟死刑，并询求荀羡的意见。荀羡说：“蔡公一旦遭遇不测，明天就一定会出现齐桓公、晋文公那样举兵问罪的行动（指桓温可能会借此机会称兵犯阙）。”殷浩听后，才打消杀害蔡谟的念头。

段龛被围后，燕将王腾、赵盘分别进攻琅琊（山东省诸城县东南）、鄄城（山东省鄄城县），引起了臣属于东晋的各个北方州郡的一片惊恐。荀羡在前方形势不利的情况下率军北上，首先进攻了王腾的老巢阳都（山东省沂水县南）。运气不错的荀羡军正碰上天降瓢泼大雨，阳都城墙因此崩塌，荀羡的北伐军趁机攻入城内，将王腾抓获斩杀。然后，荀羡率军继续北上解救琅琊，赵盘望风而逃。

而荀羡驻军琅琊后因忌惮燕军的强盛，也不敢继续前进了。

看到东晋援军即将到来，前燕众将纷纷建议慕容恪立即发起对广固城的强攻，而慕容恪却决心要以持久之法来攻下广固。他下令在广固城的包围圈之外，建设房屋，开垦农田，构筑堡垒，深挖堑壕。当时山东之民争着运粮接济燕军，而城内却由于粮食断绝，出现了人吃人的惨剧。段龛无奈之下，将城内的部队全部组织起来进行突围，经过多次失败的突围行动后，段龛再无斗志，十一月十四日，段龛双手反绑着走出城门投降，并交出朱秃。慕容恪大力安抚齐地，将三千多户鲜卑、匈奴、羯族民众迁往蓟城，留下慕容尘镇守广固，以尚书左丞鞠殷为东莱（山东黄县东南）太守，以鲜于亮为齐郡（山东省临淄市）太守。

被送到蓟城的朱秃被慕容儁命人依次用在脸上刺字、割去鼻子、砍掉脚趾、鞭打致死、斩首并剁成rou酱的残忍办法处死；而对于段龛，慕容儁则先将其封为伏顺将军，在其投降半年之后，慕容儁又残忍地将其双眼熏瞎之后诛杀，并同时坑杀了鲜卑段氏部落三千多人。

听说广固沦陷的消息后，荀羡留下将军诸葛攸、高平太守刘庄等三千多人驻守琅琊，参军戴逯、萧鎋率领两千多人防守泰山（山东省泰安市），自己则率领主力大军从琅琊南撤，退回到下邳。当时，前燕将领慕容兰率兵数万驻军在卞城（山东省泗水县东南），经常sao扰东晋北部边境，荀羡从洸水至汶水，一直追击至东阿（山东阳谷县东北），临阵斩杀了慕容兰，晋穆帝要进封荀羡，但荀羡坚决推辞不受。

到了公元357年的一月一日，晋穆帝司马聃的虚岁已经到14岁了，他在这一天按照规定加成人服，大赦天下，改元升平，并开始临朝听政。皇太后褚蒜子下诏自己不再听政，还居崇德宫。

朝廷又加谢尚为都督豫州、冀州、幽州、并州诸军事，可是，谢尚这时的病情却加重了，朝廷只好将其任命为卫将军，加散骑常侍，征回朝廷养病，没想到当年风靡一时的大帅哥万人迷谢尚只回到历阳就因病去世了，终年五十岁。

谢尚在豫州刺史任上凡十二年，他去世后，朝廷将桓温的那位“方外司马”、谢安的哥哥谢奕任命为安西将军，豫州刺史，都督豫州、司州、冀州、并州诸军事，假节，基本上接替了其堂兄谢尚的职务。

此时，桓温的二弟桓云已被任命为江州刺史，阻挡桓温染指朝堂的绊脚石就只剩下了豫州和徐州。不过，谢奕与桓温有布衣之交，桓温对这个安排也没什么意见。然而，好景不长，到了升平二年的八月，在豫州刺史任上才满一年的谢奕却又去世了。

司马昱赶紧将尚书右仆射王彪之招来，让其举荐合适人选。王彪之含糊其辞，只是笼统地说当今的朝中贤达，都可以作为备选的人才。司马昱试探说：“有人建议用桓云，你以为如何？”王彪之回答：“桓云到任以后不一定就不称职。不过，既然桓温居于长江的上游，已经将天下差不多一半的土地都割去了，要是他的弟弟再处于京师的西侧，兵权集于一家，这恐怕不是巩固朝廷的良策。人才行不行很难预先判断，但至少应该找一个在可见的将来不会与殿下作对的人才行。”

司马昱经过反复的掂量后，任命了谢奕的堂弟、吴兴太守谢万担任豫州刺史，兼淮南太守，监司州、豫州、冀州、并州诸军事，假节。谢万，字万石，比他的哥哥谢奕还要荒诞不羁得多。他不但目中无人，还特会作秀。司马昱以前曾听说过他的盛名，就邀其见面，在约定见面的那一天，谢万头戴白色纶巾，身穿鸟毛制作的宽大衣服，脚蹬木屐，一路前去与司马昱清谈。就凭谢万这一身的杀马特，恐怕在路上就能引起不少的尖叫，不过，司马昱倒是很欣赏他的逼格，与他长谈竟日而不倦。另外，在他的岳父王述被拜为扬州刺史时，谢万戴着平时喜爱的白色头巾，坐着两人抬的小轿，就这样直接地来到了扬州刺史衙门的厅堂前，对王述说：“人们都说你傻，你还真傻。”王述则是客气地回答道：“贤婿你可不是胡说，当真有这回事。不过，我晚年的名声已经变得好些了。”又有一次，谢万在其兄长谢安的面前，站起来就索要夜壶小便，名士阮裕当时也在场，就说道：“新兴的土豪，真诚却没有礼貌。”

不过傲慢的谢万也不是没有吃过瘪，有一次支道林东还，建康的名士们都到征虏亭去送行。蔡系先到，坐于支道林身侧，谢万后到，座位便离支道林稍远，但这家伙居然趁蔡系离座的期间占据了其座位。当蔡系回来后，发现自己的座位被谢万占了，一怒之下竟将谢万连人带坐垫都掀翻在地，就连谢万的帽子都跌落了。不过先理亏的他却毫无愠色，整理衣冠后还继续从容就坐，并对蔡系道：“你真是个奇人啊，不过差点弄伤我混饭吃的这张脸。”蔡系则回答道：“我本来就没有就没考虑过你的脸。”还有一次，谢万和谢安两兄弟路过吴郡，谢万欲拜访当时的吴郡內史王恬。谢安劝道：“王恬是不会理你的，还是别去了罢！”谢万不听，便独自前往。王恬陪他坐了片刻，便入内洗头。谢万以为王恬是要厚待自己，显得非常高兴。过了很久，谢万见到王恬散发而出，坐在院中的胡床上晒头发，神情傲慢，一点也没有应酬谢万的意思。谢万吃瘪返回后向谢安诉说委屈，谢安叹道：“阿螭（王恬的小名）是不会做作啊！”