将要下葬时，又赐钱四十万、布百匹。司徒左长史范晷等上奏说：“山涛旧宅第仅有屋十间，但子孙众多，容纳不下。”武帝于是为山涛家建了住宅。山涛位列三司，那么山涛死的时候为什么会一贫如洗呢?山涛的功绩又有哪些，就让我来为你们解答 

公元282年(太康三年)，被拜为司徒，山涛又坚意辞让，武帝下诏说：“您年迈而德高，是朝中元老，因而授给台辅之位，但您崇尚谦让之远名，反复推辞，令我心中忧虑。您应该坚持始终，辅助我呀。”

山涛又上表说：“臣侍奉天朝三十余年，对德政教化无毫厘功效。陛下私心爱臣不已，枉授三司之任。臣听说德行薄陋而位高，力量少而责任重，这样导致上有败坏国事之祸，下有损伤家庙祖宗之咎。

希望陛下念累世君臣之恩，乞求骸骨以归故里。”武帝下诏说：“您辅助朝政，保护治理皇家，匡扶之功，为朕所依赖。司徒之职，实掌国家教化，因而敬授予您，以满足群臣百姓之望，怎能只顾谦让而贬低自己呢!” 

武帝下令不准山涛再上章表辞职，使者把印绶交给卧病在床的山涛。山涛说：“将死之人，怎能玷污官府呢!”于是卧病乘车归家。

公元283年(太康四年)，山涛去世，终年七十九岁。武帝下诏赐棺木朝服各一具、衣一套、钱五十万、布百匹，以供丧事之用，策命追赠司徒的蜡印紫绶、侍中的貂蝉及新沓伯的蜡印青朱绶，以太牢礼仪祭祀，谥号康。