皇帝认为玉壁是交通紧要之处，除了韦孝宽无人能够镇守，就没有答应他。

等到赵王宇文招从稽胡出兵，与大军成犄角之势，才下令韦孝宽担任行军总管，围守华谷，以策应大军。

韦孝宽攻占了四座城池。

武帝平定晋州后，又命令韦孝宽回去镇守玉壁。

皇帝凯旋时，又路过玉壁。

皇帝从容地对韦孝宽说：“世上人都说老年人多有智谋，善于为军队策划。

可是我只与少年人共事，一举平定贼军。

您以为怎样呢?”韦孝宽答道：“微臣如今衰老，只剩下忠诚之心。

可是从前在少壮时，微臣也曾在先朝尽力，平定关西。”皇帝大笑道：“事实像您说的那样。”于是诏令韦孝宽随皇帝返回京城。

任命他为大司空，出任延州总管，升上柱国。

大象元年(579)，被任命为徐、兖等十一州十五镇诸军事、徐州总管。

又担任行军元帅，攻占淮河以南地区。

分别派杞公宇文亮进攻黄城，成阝公梁士彦进攻广陵，韦孝宽率军攻打寿阳，将以上三城全部攻占。

韦孝宽初到淮河以南时，各地官员都私下表示归附的诚意。

可是五门是险要之处，陈国人如果凿开塘堰放水，就会阻断道路。

韦孝宽急忙命令分兵把守。

陈国刺史吴文育果然派人去挖掘塘堰，但已经来不及了。

陈人于是退兵，长江以北地区全部平定。

军队撤回，到了豫州，宇文亮举兵反叛，偷偷派数百骑兵袭击韦孝宽的营地。

当时宇文亮的养马官茹宽将情况密报韦孝宽，韦孝宽作了防备。

宇文亮无法攻入营地，只得逃走，韦孝宽追上去将其活捉。

诏令以平定淮南之功，另封韦孝宽的一个儿子为滑国公。

宣帝去世后，隋文帝辅佐朝政。

当时尉迟迥原来担任相州总管，诏令韦孝宽代替他。

又任命小司徒叱列长义担任相州刺史，令他先期前往邺城，韦孝宽稍后出发。

到达朝歌时，尉迟迥派大都督贺兰贵带着书信等候。

韦孝宽留下贺兰贵谈话，借以观察他。

韦孝宽怀疑有变故，就借口有病，缓慢而行。

又派人到相州寻求医药，秘密侦察动静。

到汤阴后，遇到叱列长义逃跑回来。

韦孝宽兄长之子、魏郡守韦艺又弃郡南逃。

韦孝宽仔细研究了当时的形势，急忙返回。

所经过的桥梁要道，下令一律拆毁，驿站马匹一律牵走，又命令驿将道：“蜀公将要到来，可多备酒肴和粮草等待。”尉迟迥果然派仪同梁子康率领数百骑兵追赶韦孝宽，各驿站供应丰厚，所经之处都要停留，因此没有追上。

当时有人劝说韦孝宽，认为洛京虚弱，素来没有守卫部队，在河阳镇守的，全是函谷关以东的鲜卑人，尉迟迥如果先行占据洛京，将成大祸。

韦孝宽就入河阳而固守。