韦孝宽很担心这件事，就派间谍访得牛道恒手迹，命令善仿书法者伪造牛道恒致韦孝宽的信件，谈归降之意，又制造了火烧的痕迹，好像就火而书一样，命令间谍将信件故意遗失在段琛营地。

段琛得到伪信后，果然怀疑牛道恒，对牛道恒所筹划的措施一律废弃不用。

韦孝宽得知离间见效，乘机出兵突袭，活捉牛道恒、段琛等人，崤、渑二地于是平定。

大统五年(539)，晋封侯爵。

八年，转任晋州刺史，不久改而镇守玉壁，兼代理南汾州政事。

原先山胡仗恃险要，多次盗掠，韦孝宽向他们显示军威与信用，州内于是安定。

晋升大都督。

十二年，齐神武调集太行山以东所有兵力，立志西侵。

由于玉壁地处要道，先下令进攻它。

齐神武营地连绵数十里，直达城下，并在城南垒起土山，打算乘机入城。

正对着土山的地方，城上原有两座高楼。

韦孝宽又在楼顶接上木头，使之更加高峻，准备了许多作战工具来防守。

齐神武派使者对城中人说：“纵使你们把楼接到天上，我也能夺取城池活捉你们。”于是在城南穿凿地道，又在城北垒起土山，准备进攻工具，日夜不停。

韦孝宽挖掘长壕，截断城外地道，并命令战士屯守壕中。

城外的的敌人从地道中一出来，就被壕中的战士捉住杀死。

又在长壕外堆积柴草，备下火种，发现地道内埋伏有敌人，就扔下着火的柴草，用皮囊吹火。

火气一冲，敌人都被烧得焦头烂额。

城外又造了攻城车，攻城车所到之处，没有不被摧毁的。

虽然备有盾牌，但也无法与之对抗。

韦孝宽于是缝成布缦，攻城车攻向哪里，布缦就张设在哪里。

布缦悬在空中，攻城车竟无法毁掉它。

城外又将松枝麻杆绑在长竿上，浸油后点着，想烧毁布缦，连带烧毁高楼。

韦孝宽又打造了长铁钩，锋刃锐利，用铁钩遥割长竿，松枝麻杆一齐掉落下来。

城外敌人又在城墙四面挖掘地道，共挖了二十一条，分为四路，在地道中立有梁柱。

完工后，将柱子浇上油，点火焚烧，柱子折断，城墙也随之崩塌。

韦孝宽立即在崩塌处树起木栅抵御，敌人仍无法入城。

城外敌人用尽攻击手段，均被韦孝宽一一挫败。

齐神武无可奈何，就派仓曹参军祖孝征对韦孝宽说：“没有听说派来救兵，为什么还不投降?”韦孝宽回答道：“我方城池严固，军粮充裕，攻者徒自劳苦，守者常觉安逸，哪有十天半月就必须救援的道理?我倒担忧你们有回不了家的危险。

孝宽是关西男子，必然不当降将军。”停了一会儿，祖孝征又对城中人说：“韦城主身享荣禄，或许能够这样，其他的将士，为什么要随韦城主入汤火中呢?”于是向城中射去赏格，说：“能杀城主而投降的，可任命为太尉，封开国郡公，食邑万户，赏帛万匹。”韦孝宽在赏格的背面写上字，反射到城外，说：“如果有能杀高欢者，依此赏格。”韦孝宽兄弟的儿子韦迁，原住在太行山以东，这时被锁拿到城下，脖颈上架着利刃，说：“如果不早点投降，便杀掉韦迁。”韦孝宽慷慨激昂，毫无顾念之意。

士卒无不感奋激励，人人有战死的决心。

齐神武苦战六十天，士卒中受伤及病死者十有四五，智谋用尽，军力衰疲，自己又得了病，连夜撤兵而去。

后来，齐神武因此事恼恨而死。

魏文帝嘉奖韦孝宽战功，命令殿中尚书长孙绍远、左丞王悦到玉壁慰问，任命他为骠骑大将军、开府仪同三司，晋封建忠郡公。