不久，派水师进攻镇江，徐达在龙潭将其击败。然后朱元璋派徐达及汤和进攻常州，张士诚军赶来支援，大败，失去张、汤二将。

张士诚这才写信求和，请求每年纳粟二十万石，黄金五百两，白金三百斤。朱元璋复信，责成他放回杨宪，每年缴纳粟五十万石，张士诚又不予回信。

当初，张士诚攻取平江后，即以兵进攻嘉兴。元守将苗帅杨完者数败其兵。张士诚于是派张士德从小路攻破杭州，杨完者率兵回援，张士德再败返回。

第二年，耿炳文攻取长兴，徐达攻取常州，吴良等攻取江阴，张士诚部四面受阻，势力日渐缩小。不久，徐达率兵巡行宜兴，进攻常熟，张士德迎战失败，被前锋赵德胜所擒。

张士德，小名张九六，善战有谋，在军中很得人心，浙西之地都是他略定的，被擒后，张士诚大为沮丧。朱元璋想扣留张士德以招降张士诚，张士德却偷偷给张士诚写了一封信，让他投降元朝。

张士诚于是决定降元，江浙右丞相达识帖睦迩替他在朝中说话，授张士诚为太尉，对其部将官吏都授以官职。张士德后来在金陵绝食而死。

张士诚虽然取消了伪号，但却像以前一样仍拥有军队、土地。达识帖睦迩在杭州与杨完者发生隔阂，暗地里招来张士诚的军队，张士诚派史文炳袭杀了杨完者，然后占据了杭州。

元顺帝派使臣前来征粮，赐给张士诚龙衣御酒，张士诚从海路输送十一万石粮食至大都，以后每年如此。不久张士诚渐渐骄傲起来，命其部下为他歌功颂德，希望封王授爵，未被允许。

二十三年九月，张士诚重新自立为吴王，尊其母曹氏为王太妃，设置官属，在城中另修府第，以张士信为浙江行省左丞相，将达识帖睦迩幽禁于嘉兴。

元朝来征粮时，张士诚不再缴纳。参军俞思齐，字中孚，泰州人，劝谏张士诚道：“以前为盗贼，可以不进贡;而今为人臣，不进贡可以吗?”张士诚听后大怒，将桌子推倒在地，俞思齐马上借口生病离去。

这个时候，张士诚所据之地，南抵绍兴，北逾徐州，到达济宁的金沟，西到汝、颍、濠、泗，东临海边，二千多里，拥兵数十万。

张士诚以张士信及女婿潘元绍为心腹，左丞徐义、李伯升、吕珍为爪牙，参军黄敬夫、蔡彦文、叶德新负责谋议之事，元朝学士陈基、右丞饶介主管文献书籍。

张士诚喜欢招待宾客，还赠送很多车马、居室及其他器物，所以寓居他乡，流落在外的人纷纷归附张士诚。

张士诚的为人，外表迟重寡言，似有气量，但实际上却无远大图谋。他占据吴中后，吴境太平已久，人丁兴旺，张士诚日渐奢侈放纵，政事松懈。

张士信、潘元绍尤其喜欢聚敛财宝，金玉珍宝、古代法书帖及名画，无不收罗家中，而且日夜以歌舞自娱。将帅也懒散松懈，不听命令，每有攻战，总是自称有病，被授予官爵田宅之后才肯领命出征。

到军中去时，装载妻妾奴婢、乐器的车辆络绎不绝，一路之上，或者大会游谈之士，或者赌博踢球，都不将军务放在心中。

等到丧师失地返回后，张士诚一概置之不问，不久，又重新将其任命为将领。全军上下嬉娱，直到灭亡。

朱元璋与张士诚边境相接。张士诚屡次以兵进攻常州、江阴、建德、长兴、诸全等地，都不利而归。而朱元璋派邵荣攻湖州，胡大海攻绍兴，常遇春攻杭州，也都不能攻下。

廖永安被捉，谢再兴叛降张士诚，当时朱元璋正与陈友谅相持不下，无暇顾及。陈友谅也派使者约张士诚夹攻朱元璋，而张士诚则仅想守境观变，所以虽然答应了使者，其军队却不采取行动。

朱元璋平定武昌，率师返回，便立即命令徐达等进取淮东，攻克泰州、通州，围攻高邮。张士诚率水师溯江而上，前来支援，朱元璋亲自率军将他击回。

徐达等攻占高邮，夺取淮安，将淮北之地全部平定。然后将檄文传至平江，历数张士诚八条罪状。

徐达、常遇春率军自太湖直趋湖州，吴军迎战于毗山，又战于七里桥，都被打败，于是徐达、常遇春包围了湖州。

张士诚派朱暹、五太子等率兵六万前来援救，驻扎在旧馆，筑起五寨以自卫。徐达、常遇春则筑成十处堡垒，断其粮道。张士诚获知事情紧急，亲自督兵来战，败于皂林。

其将徐志坚败于东迁，潘元绍败于乌镇，升山水寨、陆寨全被攻破，旧馆外援断绝，五太子、朱暹、吕珍都缴械投降。

五太子是张士诚的养子，身材短小精悍，却能平地跃起一丈多，又善于潜水，吕珍、朱暹都是有经验、善于作战的老将，现在都投降了。

徐达得以巡行湖州，守将李伯升以城投降，嘉兴、松江等相继投降。潘原明也以杭州城降于李文忠。

二十六年一月，朱元璋大军进攻平江，筑起长墙围困平江。张士诚拒守数月之后，朱元璋派人送信招降他，信中写道“：古之豪杰，都以敬畏上天、顺从民意为贤能，以保全自身及家族为明智，汉代窦融、宋代钱亻叔就是如此。你应当三思，不要自取灭亡，为天下人耻笑。”张士诚不予回信，屡次突围决战，都被打败。

李伯升知道张士诚已很困乏，便派与自己交好的食客越过城墙，前去劝说张士诚：“当初你所依赖的湖州、嘉兴、杭州，现在都已失去了。你独守此城，恐怕事变将会在城中发生，到那时你虽想死，却不能死。还不如顺从天命，派使者去金陵，说你之所以归顺是为了挽救城中百姓，然后打开城门，幅巾待命，应当不会失去万户侯之职。况且你的地盘，就好像你在玩一种赌输赢的游戏，得人之物而又失去它，对你又有什么损害呢?”

张士诚仰视良久之后说道“：我会考虑这件事的。”于是谢客，却仍不投降。

张士诚以前有一支勇胜军号称“十条龙”，个个骁猛善战，每次披上银铠锦衣投入战斗，现在也都战败，在万里桥下溺死。

最后丞相张士信也中炮而死，城中喧闹纷乱，已无斗志。二十七年九月，平江城被攻破，张士诚聚集余部战于万寿寺东街，士兵却都四散逃走。

张士诚只得仓惶逃回府第，关门自缢，被旧部将赵世雄解救。大将军徐达多次派李伯升、潘元绍等去传达其旨意，张士诚总是闭目不答，后来被抬出葑门，进入船中，不再进食。

到金陵后，竟自缢而死，时年四十七岁。朱元璋下令备置棺材，将他埋葬。

张士诚被围困时，对其妻刘氏说：“我如果兵败将死，你们怎么办呢?”刘氏答道：“你不用担心，妾一定不会背弃你。”然后令人在齐云楼下堆积干柴。

城被攻破时，刘氏将群妾驱赶上楼，命养子张辰保放火烧楼，自己也自缢而死。刘氏有两个幼子藏匿于民间，后来不知所终。

在此之前，黄敬夫等三人掌权管事，吴人知道张士诚必败，所以民间流传有“黄菜叶”的十七字歌谣，后来他的死应验了这一传说。