198年，曹操再次征讨张绣，围攻张绣于穰城，不能攻克。

后来，曹操解围退还，张绣率众追击，刘表也派兵增援，在安众被曹操伏击，大败。后用贾诩之谋，再次追击，取胜而还。

199年，张绣听从贾诩的建议，再次向曹操投降。张绣到达后，曹操牵着张绣的手，一起参加宴会，为自己的儿子曹均娶了张绣的女儿，并封张绣为扬武将军。

200年，张绣参加了官渡之战，力战有功，升为破羌将军。

205年，张绣跟随曹操在南皮击破袁谭，再次增加食邑，一共2000户，当时天下户口剧减，十户才留下一户，将领中封邑没有达到1000户的，唯独张绣特别多。

207年，张绣跟随曹操去柳城征讨乌桓，还没有到达就死了，被谥为定侯，儿子张泉继嗣。(《魏略》言：曹丕因曹昂战死之事对张绣不满，说：“君杀吾兄，何忍持面视人邪!”张绣心不自安，自杀。)后来张泉因连坐魏讽谋反而被杀，国家收回了爵位。