第二天，高乾离开后，高欢当即率领部众缓缓东行。路上遇到一个人，乘坐着露天车子，载着几坛浊酒，径直向前驱投递名帖，说是想谒见高公。高欢一看传递进来的名帖，上面写有“南赵郡太守李元忠”几个字，便说：“这人是个酒鬼，他怎么会想见我？”于是既不说见，也不说不见。李元忠等了好一会儿，不见回复，便下车独自坐在那儿，大口喝酒，大口嚼肉。一口气灌下好多酒，才对军吏说：“我听说高公招揽贤才，所以大老远跑来谒见他。谁知他却怠慢贤士，我真是失望呀！还请你们把名帖还给我，我不想再劳烦你们了。”军吏又去报告高欢。高欢这才让李元忠进来，但态度很是冷淡。李元忠于是从自己的车上搬来酒，抱来筝，一面喝酒，一面弹筝，接着又吟长歌。吟完了，他才对高欢说：“现在大局已定，将军还想效忠尔朱氏吗？”高欢朗声说道：“我的富贵尊荣都是他给的，我能不效忠他吗？”李元忠叹息道：“拘泥于小节，怎么敢称英雄！”随后又问高乾兄弟是否来过。高欢骗他说没有。李元忠疑惑地说：“将军说的是真话呢，还是假话?”高欢有些讥讽地说：“你醉了！”随即让人扶他出去。李元忠不肯起身，长史孙腾于是对高欢说：“他应该是老天派来的，还请将军多多忍耐，不要逆天行事。”高欢只得耐着性子与李元忠交谈。李元忠慷慨激昂地畅谈时事，说到伤心处，呜咽流涕。高欢不禁动容。后来，李元忠献策说：“就黄河北岸的形势而言，冀州、殷州两地比较，殷州城小，不能很好的供应粮草和军饷，不利于长远的发展，最好是前往冀州。高乾兄弟必会尽心尽力为将军效命，你可以放心地将殷州交给我。冀、殷二州一合势，沧、瀛、幽、定四州自然也是将军的了。”高欢一听这话，立即站起来，紧握李元忠的手，并为自己刚才的无礼道歉。李元忠留住了一些日子，随即前往殷州，高欢也立即动身赶往信都。
封隆之与高乾打开城门迎进高欢。高敖曹当时正在外面打仗，他听说兄长迎高欢入城，便耻笑兄长如同妇人一般懦弱，并送给他一条布裙。高欢一直看重高敖曹的勇猛，因此特意笼络他，让长子高澄以晚辈的身份去拜见他。没过多久，就将高敖曹收归旗下。
高乾与封隆之本来依附刘灵助，等到迎立高欢为主帅，二人便与刘灵助断绝来往了。魏主也派大都督侯渊、骠骑将军叱列延庆讨伐刘灵助。刘灵助曾为自己占卜说：“三月末，我必定入据定州。”没想到，后来反被侯渊取走性命，他的首级恰好在三月末被送入定州。
魏廷击毙刘灵助后，便想谋取冀州，表面上赐封高欢为渤海王，让他入朝听令。此时的高欢哪还肯入京，再受尔朱氏的牵制？当时尔朱世隆升任太保，专揽朝纲；尔朱兆兼督十州军事；尔朱天光被封为大将军，专门管治关右；尔朱仲远镇守大梁，兼任兖州刺史。尔朱氏中尔朱仲远最为贪婪暴虐，他常常诬陷富户谋反，然后将男丁投入河流，再占有妇女和财产。东南各州郡畏惧尔朱仲远有如畏惧虎狼一般，都恨不得杀了他。只因他势力强盛，官民只有忍气吞声。然而高欢却招兵买马，安抚百姓，准备与尔朱氏决一雌雄，所以魏廷让他入朝，他当然找借口拒绝。魏廷也拿高欢没办法，只好另想办法约束他，封他为大都督东道大行台，兼任翼州刺史。
高欢本就雄心勃勃，再加上部将斛律金、库狄乾以及小舅子娄昭、姐夫段荣等人从旁怂恿，他当即决定征讨尔朱氏。高欢先是向六镇的百姓宣称，尔朱兆将把他们发配到胡人的居住地，吓得众人异常忧惧。紧接着高欢又煽动官兵造反，让众人心甘情愿地拥立自己为统帅。
当时李元忠起兵进逼殷州，高欢当即令高乾率兵援应李元忠。高乾扬言援救殷州，单独去见尔朱羽生，与他商量战守事宜。尔朱羽生当即和高乾一同出城作战，高乾伺机刺死尔朱羽生。然后与李元忠会师，用尔朱羽生的首级逼迫城中投降。殷州不攻自破，高乾让李元忠留守殷州，然后匆匆带着尔朱可胜的首级回信都报喜。高欢一副悲痛的样子说：“看来只好起兵了！”随即任命李元忠为殷州刺史。同时，发檄文到洛阳，历数尔朱氏的罪状，扬言即将声讨。
尔朱世隆将檄文藏起来，骗魏主说高欢造反。尔朱兆、尔朱仲远、尔朱天光、尔朱度律等人都奉命征讨高欢，由尔朱世隆居中调度。高欢听说尔朱氏大举出兵，当即仔细部署兵马，抵御各军。
一天，一个穿着丧服的人，踉跄奔到军门前，请求面见高欢。高欢一见名帖，立即把来人请进来。那人一到案前，便匍伏在地上，放声大哭。高欢也禁不住掉泪，忙把他扶起来，让他坐在自己身边。那人依旧哭着说：“我家一百多口人都死在贼臣手中，听说将军起义兴师，所以我奔波赶来，愿效犬马之劳，报仇雪恨！”高欢叹道：“你家世代效忠帝王，没想到逆贼竟连你家也不放过，真是可悲可恨！你放心，如果皇天有眼，一定不会让逆贼漏网的。”随即任命来人为行台郎中，令他参议军事。
这人到底是谁呢？原来是北魏司空杨津的儿子杨愔。杨氏是京城的名门望族，世代忠诚，一家人多是北魏的名士。只因杨津的侄子杨侃曾参与谋杀尔朱荣，而杨家人又多在朝中担任要职，尔朱氏便诬陷杨氏谋反，将杨氏一门老小杀个精光。当时杨愔因在外办事，所以幸免于难，得以投奔高欢。
杨愔非常有才干，他的谋略深得高欢的欢心。高欢因此将文檄、教令之类的事情全部委任他处理，并让咨议参军崔悛做他的副手。杨愔下笔精准，言辞激昂，不管什么文章，一经颁布，世人无不传诵，因此尔朱氏的罪状天下共知。尔朱兆出兵攻打殷州，李元忠一人支撑不住，弃城逃奔信都。尔朱仲远、尔朱度律与将军斛斯椿、贺拔胜、贾显智等人也进军高平，形势相当危急，高欢忧虑不已。
长史孙腾献策说：“如今朝廷将我们隔绝，不管我们怎么号令，都没有几人肯听，将士们也日益沮丧。我们不如先立一位元氏宗亲为帝，借此号召远近，团结众心。”高欢十分疑虑，但在孙腾的再三坚持下，不得不奉迎渤海太守鲁郡王元朗为帝。元朗是景穆太子元晃的玄孙，即位后，改元中兴。并任命高欢为侍中丞相，督管朝内外各军事，高乾为侍中司空，高敖曹为骠骑大将军，兼任冀州刺史，孙腾为尚书左仆射，魏兰根为尚书右仆射。