宝应元年(762年)，唐肃宗也病危，张皇后为了便于自己将来继续插手政局，密谋准备杀掉太子，策划越王继位。此举被李辅国的同党发现，李辅国等首先把太子保护起来，然后冲进皇宫，抓获了越王及其支持者百余人。

张皇后逃入重病中的唐肃宗寝宫，被李辅国抓住。肃宗因受到惊吓而在当天就驾崩了。李辅国趁此混乱时机，将张皇后、越王及参与者一并斩首。太子李豫在李辅国的拥戴下即位，是为唐代宗。自此李辅国日益骄横，曾对唐代宗说：“大家(皇帝的俗称)但内里坐，外事听老奴处置。”

闻此僭君之言，唐代宗不快，决意将李辅国翦灭，于是唐代宗表面优待辅国，尊之为“尚父”，封司空兼中书令，却私下通联宦官程元振，以药子昂代元帅府行军司马，掌握禁军，夺兵权。罢辅国官职，进封为博陆郡王。不久，又派人于深夜将其刺杀，割下头颅扔到溷厕中。遂刻木代其首级以葬，赠太傅，谥丑。