晋安帝复辟几年后，追叙讨伐逆贼的功绩，封刘裕为豫章郡公，刘毅为南平郡公，何无忌为安成郡公。不久，司徒兼扬州刺史王谧病故，按资望本应由刘裕继任王谧的职位。但刘毅等人已是十分忌惮刘裕，不希望他入朝辅政，便向晋安帝提议让中领军谢混担任扬州刺史一职。有人怕刘裕反对，于是又建议安帝说：“不如令刘裕兼管扬州军事，但是由孟昶处理扬州内部事务。”安帝犹豫不决，特意派尚书右丞皮沈前往丹徒，征询刘裕的意见。皮沈到丹徒后，先去拜见刘裕的书记官刘穆之，将朝廷的意思告诉他。刘穆之借口如厕，偷偷禀报刘裕，并对刘裕说：“皮沈的两个建议，都不可取。”刘裕出来见皮沈时，支吾以对，请他暂时住在客舍，然后又回屋与刘穆之商量。刘穆之说：“晋朝已是今非昔比，公匡扶社稷，功高望重，难道甘愿一直做藩将吗？况且刘毅等郡公与你同是布衣出身，一起为国家扫平逆贼，取得富贵。不过因为事有先后，而暂时推崇你，并非是诚心敬服。虽然你和他们之间向来存有主仆名义，但一旦他日彼此势均力敌，终会相互吞噬。扬州是国家的根本，关系重大，怎么能将扬州拱手让给他人？之前任命王谧为扬州刺史，已非长远之计，如今再将扬州让给他人，我担心公将受人所制。一旦失去权柄，就不好重新争取了。现在先答复皮沈，说事关重大，需要入朝奏陈，与朝臣共同决议。等公到了京都，相信朝内的权贵，绝对不敢再将扬州刺史之职授任他人，公便可坐取此位了。”
刘裕极口称赞，依议而行。果然，安帝立即降旨，任命刘裕为侍中扬州刺史。刘裕又摆出十分谦恭的态度，上奏恳请将督管兖州军事的职权让给别人；并令诸葛长民镇守丹徒，刘道怜屯驻石头城，让将军毛修之与益州刺史司马荣期会师，共同讨伐谯纵。
谯纵原本是益州参军，他杀掉刺史毛璩，自称成都王，搅得蜀中动荡不安。晋廷任命司马荣期为益州刺史，令他率兵讨伐谯纵。司马荣期在白帝城击败谯纵的弟弟谯明子后，向晋廷请求支援。刘裕于是让毛修之去援助司马荣期。司马荣期抵达巴州，却被参军杨承祖杀死，杨承祖自称巴州刺史。毛修之接到司马荣期的死讯，不得已退驻白帝城。当时，益州督护冯迁已升任汉嘉太守，忙发兵援助毛修之。两军会师后，击毙杨承祖，正打算乘胜进军，不料朝廷新派来的益州刺史鲍陋与毛修之意见不合。毛修之据实上奏，刘裕忙向晋安帝推荐刘敬宣为襄城太守。晋廷随即令刘敬宣率领五千人马，前往蜀中讨伐逆贼，并任命荆州刺史刘道规为征蜀都督，令他调度各军。
谯纵听说大军将到，忙向后秦称臣，乞求援兵。秦主姚兴派部将姚赏等人去援助谯纵。刘敬宣转战而前，在距城约五百里的黄虎岭，遭到秦、蜀二军的抵死守御。相持六十天后，刘敬宣只得带着残军退还。刘敬宣自然被贬职，刘道规也被降为建威将军。刘裕因为刘敬宣失利，上奏自愿削职。晋廷只是把刘裕降为中军将军，其他官职如故。
刘裕正打算亲自去讨伐谯纵，突然又传来南燕入侵淮北的消息。刘裕于是决定先讨伐南燕，再荡平西蜀。南燕主慕容德是前燕主慕容皝的小儿子，后燕主慕容垂的小弟弟。慕容皝建都龙城，慕容垂建都中山。龙城的燕王传三世而亡，中山的燕王传四世而亡。范阳王慕容德召集两燕的遗众，向南迁到滑台，向东侵占晋朝的青州，将广固城作为京都。慕容德起初自称燕王，后来改称燕帝，改名为备德，历史上称为南燕。慕容备德窃据帝位七年，因为没有子嗣，死时册立兄长的儿子慕容超为嗣帝。慕容超宠信部属公孙五楼，猜忌亲族，屡次诛杀皇族的人，并派部将慕容兴宗、斛谷提、公孙归等人率骑兵入攻宿豫，又大肆侵犯淮北。刘裕令刘道怜屯兵淮阴，严加防堵，又上奏请示北伐。
晋廷的文武大臣因西南还没有荡平，想先解决蜀中问题，但左仆射孟昶、车骑司马谢裕、参军臧熹三人赞同刘裕北伐，晋安帝便令刘裕出师。刘裕让孟昶处理中军府内事务，然后调集水军出发。到了下邳，刘裕留下船舰辎重，麾众登岸，向琅玡进发。每过一处，刘裕都让人筑城防守，手下的大将对此产生异议，叩马谏阻道：“燕人听说我军远道而来，都避而不战，如果他们占据大岘山，清除四周的粮草，使我军无从觅食。到那时，我军进退两难，怎么办？”刘裕微笑着说：“你们不要担心！我早已摸清鲜卑贪婪的习性，他们眼光浅陋，不会有长远打算，有东西可抢时，他们就掳掠；没有东西可抢时，他们就吝惜禾苗。我们孤军深入，他们便认为我军无法打持久战，因而他们只会进据临朐，或者退守广固。但是我军一进入大岘山，人人自知必有一死，以破釜沉舟的勇猛去制敌，还怕不会胜利？我敢打赌，只要我军奋勇向前，这一战我们定能大获全胜！”各将于是督兵疾进，昼夜不息。果然，南燕主慕容超不听公孙五楼据守大岘山的计策，只是修固城池，坚固壁垒，静待一战。
晋军安全走到大岘山，仍不见有燕兵阻击，刘裕不禁举手指天道：“上天保佑我军，使我军安全走过这个天险。因粮破虏，在此一举！”
当时，慕容超已授任公孙五楼为征虏将军，令他与辅国将军贺赖卢、左将军段晖等人，率五万军兵屯驻临朐。得知晋军进入大岘山，慕容超亲自督率四万士兵赶来援应。两军一相逢，就是一场恶斗，杀得山川并震，天日无光。转眼间，夕阳西下，两军仍旗鼓相当，不分胜负。参军胡藩对刘裕说：“现在南燕兵力基本上都在临朐城外，城中必定十分空虚，我军为什么不从小路出兵，偷袭城内呢？这可是韩信破赵的奇计呀！”刘裕连声称赞，依计而行，临朐城霎时沦陷。
段晖赶紧飞报慕容超，慕容超大吃一惊，掉头就往回跑。南燕兵没了主帅，立即溃退。刘裕率将士们奋勇追击，杀掉段晖。慕容超在公孙五楼的帮助下仓皇逃脱。
回到广固，慕容超还来不及整顿人马，晋军就已经杀入外城。慕容超忙与公孙五楼入内城把守，同时派张纲去后秦乞援。后秦当时正遭到夏主赫连勃勃入攻，无暇分兵援救，但却假意应允发兵，让张纲先回去等消息。张纲回国时，在泰山被太守中宣擒住，送入刘裕的军营。刘裕大喜，亲自为他松绑，赐酒压惊。张纲深感刘裕的恩惠，愿意投降。
之前，刘裕积极准备攻城的战具，城上的守卒揶揄他说：“你们即使有攻城的战具也没用，我们尚书郎张纲请的援军马上就要到了！”如今张纲投降，刘裕立即请他登上楼车，让他告诉城上的守卒，说后秦不会前来救援。守卒大为惊惧，慕容超也惊慌得很，忙派使者向刘裕请和，愿割让大岘山，向晋称臣。刘裕将来使斥回。慕容超急得没有办法，只好再次派遣尚书令韩范向后秦乞求援军。秦主姚兴要挟刘裕，说如果刘裕不立即退兵，后秦将派十万铁骑进驻洛阳，攻打晋国。刘裕大怒，对使者说：“你回去告诉姚兴，我平定青州，就进攻函谷，姚兴如果自愿送死，就让他速速前来！”
后秦的使者离开后，录事参军刘穆之进帐劝谏道：“您的话不仅不足以畏敌，说不定还会激起他们的怒意。如果我们还没有拿下广固，而后秦又真的杀来，那时又该怎么办？”刘裕笑道：“这你就不懂了吧。你想后秦如果真能发兵援救南燕，就会趁我不备发兵偷袭我军，好出奇制胜。但是他们为什么先派使者前来放话呢？这分明是虚张声势，恫吓我们，不足为虑！”刘穆之听了，恍然大悟。