光绪二十四年(1898年)小德张22岁时，终于被提升为后宫太监回事。光绪皇帝在中和殿接见王公大臣，所议论的事情，还有下边递上来的奏折，他在阅过之后，是不敢擅自做主的，必须转到慈禧太后宫中，由慈禧太后批阅训示之后，光绪只有照办，如没有太后的谕示是不算数的。由中和殿到慈禧太后的慈宁宫之间，传递这个奏折的人就是小德张。

这个时候的小德张，早已经不是初入宫的时候在茶坊当小太监的那个张祥斋的样子了。他通过李莲英的门路，已经成了慈禧太后十分信任的心腹之人。不过他也清楚，慈禧太后已经年事已高，等过几年太后死了，光绪掌权，决不会像现在一样，处处受李莲英等太监的牵制，自己必须在光绪这里买好，给自己留一条后路。

小德张虽然是“后党”，但他与李莲英不同，不肯把事做绝，光绪说的话，对慈禧能不讲便不讲;而慈禧说的光绪的好话，他便一五一十地都讲了，而对光绪不利的话，也委婉地渗透过去，让光绪自己去琢磨。光绪在慈禧那儿也设有耳目，所得来的信息，与小德张说的大致相同，所以光绪对小德张还是不那么十分戒备的。

1900年八国联军攻占天津大沽口，北京告急，慈禧携光绪逃往西安，小德张也随行。由于小德张聪明乖巧，很讨慈禧欢心，1902年庚子回銮后的第二年，慈禧太后提升小德张为御膳房掌案，官至三品顶戴。当了掌案的，小德张费尽脑汁，考虑怎样做出菜来使慈禧吃得好，吃得香。每天亲自下厨，烹、炒、煎、炸练手艺。

最后居然炒出几样菜来慈禧特别爱吃。最拿手的爆羊肉慈禧太后最爱吃，吃了这顿还要留出下顿来。由于李莲英年龄已大，精力不够，小德张名为御膳房掌案，实则已经总管太后宫里的一切事宜。由于操劳过度，体力不支，大口咯血，体重锐减，因而病倒。慈禧太后知道他得了病，叫最好的御医给他看病，并且还看望他一次，可见慈禧对之非常宠信。

别看大清国完了，小德张可没完。建立民国之后，他为了躲避原来大清的王爷、贝勒们的白眼甚至谩骂，才到天津定居。他在天津41号路修的洋楼里“纳福”。他娶了四个老婆，可能是因为随着年龄越来越大，对女人越来越感兴趣，所以很多人猜测他和隆裕太后之间的关系非比寻常，不然隆裕不可能把他当作主心骨，完全信任。小德张过继他哥哥张月峰的儿子张彬如为继子。

小德张到天津后，生活上虽然十分富有，但在精神上却是十分无聊，除了养金鱼、种花草和喂了许多小叭儿狗以外，每天午后写上三五幅“鹅”来消遣。他还信仰道教，大概是受了原来宫中大总管刘多生的影响，不过他不念经，只是在道家节日，他才戴上道冠，穿上道服，手持宝剑，盘膝静坐而已。解放以后，小德张依然安度晚年，并没有受到多大的触动。1957年4月19日去世，终年81岁，他被土葬在天津城外三十多里的“义地”——北仓。