北齐高祖高欢早年参加杜洛周起义军，归顺葛荣，成为亲信都督。后叛降尔朱荣，并收编六镇余部，镇压青州流民起义，任第三镇酋长、晋州刺史。可见北齐高祖高欢在作战方面有很高的成就，著名的就有北齐高祖高欢攻尔朱氏之战。

永安三年（530年），孝庄帝杀死尔朱荣，尔朱家族起兵讨伐孝庄帝，孝庄帝战败被杀，尔朱家族立长广王元晔为帝。

高欢却没有参与这次行动，他选择保存实力，引二十万余众回河北。尔朱家族残暴不仁，不得人心，高欢遂产生讨伐尔朱家族的想法。

六镇造反的降兵大多是鲜卑人，还有不少汉人、匈奴人、高车人、氐族人、羌族人。他们被迁置于河北后，不断受到尔朱氏契胡兵士的凌暴，屡屡造反，大小二十六次，被杀过半，仍造反不已。

刚刚缢死孝庄帝、掌握北北魏政的尔朱兆（尔朱荣侄儿）对此感到头痛，特地向高欢咨询意见。高欢回答：“六镇降兵反叛不休，又不能全部杀掉，大王您应选心腹之人去统领他们。再有反叛，就归罪其将领，不能每次都杀掉大批的兵士。”

尔朱兆觉得建议很好，就问谁能去当统领。一席饮酒的贺拨允不知是计，当即在旁建议，让高欢去统领六镇降兵。

高欢佯装大怒，起身一拳打得贺拨允满嘴冒血，门牙落地，骂道：“太原王（尔朱荣）活着的时候，说怎么样就怎么样，现在太原王死了，天下事都听大王（指尔朱兆）的，你是什么东西，大王没发话能轮到你说三道四！”

尔朱兆很感动，觉得高欢忠心耿耿，就趁酒劲宣布高欢为六镇降兵的统帅。

高欢心中大喜过望。一直以来在尔朱氏手下混事，缺的就是自己能直接指挥的军队，天假其便，贺拨允给自己提名，尔朱兆又喝酒过量，发出这么一个命令。恐怕尔朱兆酒醒后后悔，高欢出大营后马上宣令：“我受命统管六镇降兵，都到汾东受我号令。”

吩咐完毕，立刻驰奔阳曲川，建立统军大营。六镇降兵一向厌恶尔朱氏和他手下的契胡兵士，极短时间内就奔赴高欢处集合完毕。

不久，高欢上书尔朱兆，表说山西霜旱灾多，兵士没有粮食，请求移师山东，解决军粮问题。高欢本意是远离尔朱兆，摆脱他的威胁和控制。尔朱兆长史慕容绍宗见书立即劝说不可。尔朱兆有勇无谋，把慕容绍宗关进牢房，下令高欢移军山东。

高欢率军自晋阳出发，中途遇见尔朱荣的妻子带着大车小车的财物从洛阳返山西，又有好马三百匹，就派兵把马匹全都换掉。尔朱兆听婶母回来哭诉后大怒，忙把慕容绍宗放出来问计。尔朱兆自己亲率军队追赶至襄垣。

夜间，高欢属下尉景埋伏壮士要杀掉尔朱兆，高欢马上阻止认为不可。转天早晨，尔朱兆归营，又下令让高欢渡水过到他的大营。高欢想过去，被部将孙滕劝止。此时高欢与尔朱氏彻底决裂。

高欢到山东后，严肃军纪，秋毫无犯，每过麦地，自己下马拉住缰绳，受到当地人民拥戴。此时的高欢也还不敢明挑和尔朱氏决裂。为了让属下军人无路可退，和他一道起兵，他派手下人伪造尔朱兆的军令，下令高欢所率六镇降兵全部要回山西，作为契胡军人的部曲去攻打稽胡。

高欢假装军命严急，从军中简选万余兵士，马上催促出发。部将孙滕和尉景也假装为士兵请命，宽缓五日。士兵又忧又惧，高欢接着又假意再宽缓五日行期。高欢作为统帅，与这支万余人的先遣军举行告别仪式，怂恿部下起兵反对尔朱氏，并且在信都起兵。

为了名正言顺，高欢拥立北魏宗室、渤海太守元朗为帝。北魏中兴二年（532年），高欢初次与尔朱氏交锋，以少胜多，在广阿大败尔朱兆，俘获五千多人。

高欢派封隆之留守邺城，亲自率军屯兵紫陌。其时，高欢战马不满两千，兵不过三万，而尔朱兆有二十万之众。众寡不敌情势之下，高欢用牛驴连系在一起堵塞自家军队的退路，在韩陵一带摆成圆阵，兵无退路，都有必死之心。

高欢自领中军前突，大将高敖曹将左军，高欢堂弟高岳率领右军。高欢中军迎战不利，被逼后退，尔朱兆军直扑而来。高岳率五百骑兵突前迎敌兵，高欢另外一个部将斛律敦收拾败退四散的兵士重整旗鼓从尔朱兆后面又扑上去，大将高敖曹自率一千多骑兵横击而入阵中，尔朱兆军大败。尔朱家族四散奔逃。

本来就首鼠两端的大都督斛斯椿等人抢先一步回到洛阳，尽杀留守的尔朱氏党羽。又立宗室元修为皇帝，即北孝武帝元修。同年五月，元修鸩杀节闵帝元恭，事后立即迎娶高欢长女为皇后。北魏永熙二年（533年），尔朱兆在秀容兵败，被逼自缢。

尔朱兆大将慕容绍宗携尔朱兆妻子及余众归降，高欢以其忠义，待其甚厚。他不仅大仁大义，也深知“各为其主”的道德，并未因从前慕容绍宗向尔朱兆进言要杀自己而记前嫌。