胡惟庸于是亲自去劝说李善长，仍然不同意。过了一段时间后，胡惟庸又派李存义去劝说，李善长叹道：‘我已经老了。我死之后，你们好自为之。’”有人又告发李善长说：“将军蓝玉率军出塞，到捕鱼儿海时，俘获胡惟庸私通沙漠使者封绩，李善长却匿而不报。”

于是，御史竞相上奏弹劾李善长。而李善长的奴仆卢仲谦等，也告发李善长与胡惟庸之间互相贿赠，经常偷偷私语。证据确凿，说李善长虽是皇亲国戚，知道有叛逆阴谋却不揭发检举，而是徘徊观望，心怀两端，大逆不道。当时正好有人说将要发生星变，会有灾祸发生，占卜的结果是灾祸应当降临在大臣身上。于是，太祖便连同其妻女弟侄等全家七十余人一并处死。

吉安侯陆仲亨、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、荥阳侯郑遇春、宜春侯黄彬、河南侯陆聚等人，都同时受胡惟庸牵连而死。不久，被牵连的还有已故的营阳侯杨璟、济宁侯顾时等若干人。

太祖亲自下诏罗列他们的罪状，加在狱辞里面，纂成《昭示奸党三录》，布告天下。李善长之子李祺与公主被迁徙至江浦，过了一段时间后死去。李祺之子李芳、李茂，因公主之恩未被牵累判罪。李芳任留守中卫指挥，李茂任旗手卫镇抚，但被取消世袭韩国公的权利。

崇祯十七年(1644年)，南明弘光帝追补开国名臣赠谥，李善长获追谥“襄愍”。