端拱元年(988)，普被册封为太保兼侍中，三次出任宰相。普整顿吏治，惩治不法官员，直至戳其身。宋太宗按普建议，对党项人采取羁縻政策。淳化元年(990)，普因病三次上表辞相职，宋太宗不准，任普为西京留守、河南尹、依前守太保兼中书令。淳化三年(992)春，普又三次上表，请求辞归故里，宋太宗不准，拜普为太师，封魏国公，给宰相俸禄。是年七月，普薨。太宗闻之震悼，废朝五日，赠普尚书令，追封真定王，赐谥“忠献”，亲撰并书写八分字神道碑赐之。咸平元年(998)，追封普为韩王。次年，又诏普配飨太祖庙。

端拱元年(988年)，宋太宗免除赵普朝见的礼节，只是每天到中书省办公，遇有重大政事就召见他问对。这年冬天，赵普病倒请求休假，宋太宗多次到他家看望他，赏赐加倍。赵普于是声称病重，三次上表请求罢官，宋太宗勉强依从，任命赵普为西京留守、河南尹，仍旧兼任太保兼中书令。

赵普三次上表恳切辞让，宋太宗赐他手写诏书说：“开国旧勋，只有你一个人，与他人不能等同，不要再推让，等出发上路那天，我到你家来与你道别。”赵普捧着手诏哭泣，于是请求带病与宋太宗面谈，宋太宗赐座与他面谈很久，多谈论国家大事，宋太宗赞许并采纳他的意见。

赵普即将出发，宋太宗来到他家。淳化三年(992年)，赵普三次上表以年老多病，请求告老。皇帝派出使者快速前来安抚慰问，并加太师衔、封魏国公，享受宰相待遇，让他在家中养病。俟损日赴阙，仍遣其弟宗正少卿安易赍诏书赐之。又特遣使赐普诏曰："卿顷属微瑑，恳求致政，朕以居守之重，虑烦耆耋，维师之命，用表尊贤。伫闻有瘳，与朕相见。

今赐羊酒如别录，卿宜爱精神，近医药，强饮食，以副朕眷遇之意。"是年七月十四日病卒于洛阳，终年七十一岁。宋太宗听到消息后非常震惊悲痛，对侍奉的大臣说：“赵普侍奉辅佐先帝，和我也有旧交情，他果断能决断大事，之前和我有些不愉快，这是很多人知道的事情。

我即位以来，常常待他优厚礼遇，赵普也倾尽全力效忠于我，对国尽忠，是真正的社稷之臣。我失去他非常痛惜。”于是痛哭涕泣，左右大臣都非常感动。赠尚书令，追封真定郡王，谥忠献。次年二月，葬于洛阳邙山。真宗咸平初，追封韩王。二年八月，诏赵普配飨宋太祖庙庭。