尔朱荣在以“匡扶帝室”为名进兵洛阳前，已开始了择立新主的准备。尔朱荣秘密派遣堂侄尔朱天光等人进入洛阳城，与彭城王元勰之子、声望很高的长乐王元子攸商议，里应外合攻打洛阳，并许诺事成后立元子攸为帝。
得到元子攸的同意后，尔朱荣便从晋阳率大军向洛阳进发。公元528年（北魏武泰元年）农历四月十一日，军队行进到河阳（今河南省孟州市）时，尔朱荣遣亲信进洛阳，将元子攸接到河阳立为皇帝，是为北魏孝庄帝，改元建义，随后尔朱荣率领军队从孟津渡过黄河直逼洛阳。
胡太后得知消息，调集军队与尔朱荣决战，被尔朱荣打败，洛阳东北门户河桥守将降尔朱荣，京城遂无险可守，将士四散。胡太后见大势已去，下令后宫嫔妃和她一起到永宁寺出家为尼。
公元528年（北魏武泰元年）农历四月十二日，皇室、贵族官僚至河桥迎驾。四月十三日，尔朱荣胁迫胡太后和幼帝元钊离开洛阳，当军队行进到河阴（今河南省荥阳市）时，尔朱荣下令将胡太后和元钊投入黄河之中。
尔朱荣除掉胡太后和幼帝之后，对亲信慕容绍宗说：“洛中人士繁盛，骄侈成俗，如果不加以铲除，始终难以驾驭。”而部属费穆则建议尽杀朝中百官，以绝后患。尔朱荣于是采纳费穆的建议，计划尽杀朝中百官。
公元528年（北魏武泰元年）农历四月十三日，尔朱荣以祭天为名，邀请朝中百官到河阴的陶渚（今河南省孟津县东）。当天，孝庄帝循河西至河阴，引导百官于行宫西北，告之朝臣说要祭天，不能请假。百官聚集之后，尔朱荣登上高台四处观望，大声叱责说：“天下丧乱，肃宗暴崩，都是因为你们贪婪暴虐，不能辅弼所至。你们个个该杀！”说完，令铁骑2000余人将百官包围，纵兵大杀。刀劈斧砍，飞矢交加，血流成河。上至丞相高阳王元雍、司空元钦、义阳王元略，下至正居丧在家的黄门郎王遵业兄弟，包括孝庄帝的兄弟元劭等人，不分良奸，无一幸免。至此，尔朱荣掌握了北魏实权。