李重俊先杀武三思和武崇训于他们家中，同时杀其党羽十余人。又命令左金吾大将军成王千里分兵把守宫城所有城门，亲自率兵赶到肃章门，斩关而入，寻找韦庶人和安乐公主，又以昭容上官婉儿一向与武三思通奸，扣阁索求。韦庶人及公主就护着皇帝奔向玄武门楼，召左羽林军将军刘仁景等，命令他率领留军飞骑及百余人在楼下列守。

不一会儿，李多祚等的军队到来，想冲上玄武门楼，宿卫的士兵坚守，不能进。中宗在楼上据槛向李多祚所带领的千骑喊话：“你们都是我的卫士，为什么反叛?如果能归顺，斩李多祚等，我给你富贵。”在这种情况下，千骑王欢喜等倒戈，斩李多祚及李承况、独孤祎之、沙吒忠义等于楼下，余党于是溃散。

李重俊既败，率领百余骑奔肃章门，逃向终南山。唐中宗令长上果毅赵思慎率轻骑追赶。重俊到雩县西十余里，部下不从命，只有奴数人跟随，此时正日暮，他们在林中休息，被左右的所杀。皇上令枭首级于朝，又献于太庙，并以李重俊的首级祭武三思、武崇训的灵柩。

唐睿宗即位后，下令：“历考前闻，率由旧章。重俊，本是大行皇帝之子，皇太子。过去被谗言嫉妒所困惑，连斧钺也不顾，轻盗甲兵，才造成诛夷，实令人悲痛惋惜。今四凶俱服，正应申赤军之冤，来解黄泉之痛。可赠皇太子。”给重俊谥号为节愍，陪葬定陵。一子宗晖，开元初年唐玄宗封他为河阳郡王。