吴兴太守杜龛是王僧辩的女婿，他听说岳父遇害，当即据城抵制陈霸先。王僧辩的弟弟吴郡太守王僧智也响应杜龛，王僧辩的心腹义兴太守韦载也反抗陈霸先。陈霸先当即让侄儿陈蒨回长城故里，筹备军事，防御杜龛。没过多久，杜龛便令部将杜泰率领五千名精兵偷袭陈蒨，想杀他个措手不及。不料，一个多月后，杜泰却败在陈蒨数百人的小队伍面前，只能无功而返。这一时期，陈霸先令周文育攻打义兴，却遭到义兴太守韦载的顽固抵御，陈霸先当即亲自督兵接应周文育，令高州刺史侯安都、石州刺史杜稜留守京都。
谯、秦二州的徐嗣徽有个堂弟名叫徐嗣先，是王僧辩的外甥。王僧辩被杀，徐嗣先便怂恿徐嗣徽投靠北齐。等到陈霸先东攻义兴的消息传来，徐嗣徽秘密联络南豫州刺史任约，乘虚袭击建康，潜入石头城。
陈霸先到了义兴，督兵猛扑，韦载招架不住，只好投降。陈霸先好言劝慰韦载，将他收归旗下，还特意任命韦载的族人韦翙为义兴太守，然后率兵返回建康。令周文育率兵援救长城，又派宁远将军裴忌率轻骑袭取吴郡。裴忌半夜抵达城下，鼓噪登城。王僧智从梦中惊醒，以为大军杀来，忙从后门逃跑，轻舟逃往吴兴。裴忌随即入据吴郡，奉陈霸先之命担任太守。
陈霸先正想急攻石头城，突然听说齐兵带着粮草、牲畜前来援救徐嗣徽，并且援军已到达湖墅。陈霸先有些忧虑，忙向韦载问计。韦载回答说：“眼下应立即在淮南筑城，保护东方粮道，再分兵断绝敌军粮草的输运，不出十天，北齐将领的头颅就在我们手上了。”陈霸先依计行事，果然扭转了局势。齐兵在仓门水南岸设立两道木栅，与梁军相拒。侯安都袭击秦郡，俘获数百人，并将徐嗣徽家的琵琶和鹰交给徐嗣徽说：“昨天，我去老弟的住处得到这些东西，但是打仗不需要这些东西，所以我特意派人给你送回来。”徐嗣徽大惊，急忙向齐营求援。北齐淮州刺史柳达摩过河列阵，陈霸先督兵猛攻，纵火焚烧木栅，齐兵大败，损失惨重。徐嗣徽与任约率领齐兵，屯驻江宁浦口，结果被侯安都军打败。徐嗣徽慌忙逃走，柳达摩不肯撤退，仍留守石头城。后来因城中的饮水困难，柳达摩不得不向陈霸先提出和议，并要求让陈霸先的世子做人质。陈霸先因建康危急，粮草运输不便，只得点头同意议和。柳达摩这才率兵归国。徐嗣徽、任约投奔北齐。齐主高洋听说柳达摩擅自与萧梁许和，并且损失不少粮械马匹，当即斥责柳达摩，将他处死，又令仪同三司萧轨调集大军南下。
那时，陈蒨、周文育已在杜泰的帮助下率领梁军杀入城中，将醉酒的吴兴太守杜龛一刀了结。杜龛的妻子王氏已在梁军入城时，剪去一头青丝，做尼姑去了。王僧智与弟弟王僧愔及时从后门出逃，投奔北齐。吴兴刚平定，陈蒨忙又和周文育赶到会稽，除掉王僧辩的另一个党羽东扬州刺史张彪。
南方基本被平定，北方的警信却越来越频繁。徐嗣徽、任约仗着有北齐大军撑腰，袭击采石，擒去明州张怀钧。陈霸先急忙派勇士黄丛率兵前去堵截。黄丛仗着一股锐气，迎头痛击，杀死齐兵前队的数百人，惊得齐大都督萧轨的十万大军退到芜湖。萧轨当即致信陈霸先，说是齐军奉北齐主之命来接建安公萧渊明回去，并不是专门来跟南朝争胜的。陈霸先当即准备送萧渊明回去，没想到萧渊明身患重病，没过多久便病死了。齐军等了几天，不见萧渊明回来，于是从芜湖出发，入丹阳，到秣陵。陈霸先急忙令周文育屯驻方山，徐度屯驻马牧，杜稜屯驻大航，抵御齐军。齐军跨淮筑桥，立栅渡兵，从方山直逼倪塘，游骑竟逼到梁京都城下，建康大震。
陈霸先忙召回周文育等人，并亲自督军屯驻白城。周文育率兵赶来，与齐军对垒列阵。一场阵仗，齐兵被擒斩无数。徐嗣徽正侵扰耕坛，却被梁将侯安都截住。侯安都只有十二名骑兵，左冲右突，竟无人敢挡。齐将乞伏无劳单枪匹马迎截侯安都，结果不到三个回合，便被侯安都活捉。徐嗣徽惊骇地带着齐兵退回军营。
在后来的幕府山一战中，齐军全军覆没，陈霸先军活捉徐嗣徽、徐嗣宗兄弟以及齐大都督萧轨。任约、王僧愔两人侥幸逃脱。
梁军凯旋还都，陈霸先把齐帅萧轨麾下的所有将吏全部处斩。建康内外解严。梁主萧方智晋升陈霸先为司徒，封为长城公，并论功赏赐其他将领。陈霸先因侯安都功劳最高，愿意将徐州刺史的职位让给他。梁主萧方智当然照准。不久，又加封陈霸先为丞相，录尚书事，兼任镇卫大将军扬州牧，封为义兴公。踌躇满志的陈霸先渐渐地有了做皇帝的心思。