他提倡上书言辞激切，无所顾忌。贞观八年，陕县丞皇甫德参上书说：“修洛阳宫，劳人;收地租，厚敛。”太宗看后大怒，要给他定以讪谤之罪。魏徵马上劝谏说，昔日贾谊给汉文帝上疏说：“可为痛哭者三，可为太息者五。”自古上书，都是言辞激切，不这样就不能引起皇帝的警觉，激切并不是讪谤。

太宗听后有所悔悟说：“朕初责此人，若责之，则谁敢言之。”魏徵对唐太宗常常是面折廷诤，有时弄得他面红耳赤，甚至下不了台。一次罢朝后，太宗曾余怒未息地说：“会须杀此田舍翁。”又说魏徵“每廷辱我”。不难看出，魏徵的犯颜直谏，往往是一针见血，甚至到了太宗难以忍受的程度。

除了军国大事外，魏徵对太宗其他一些不合义理的做法也提出善意的批评。贞观六年八月，长乐公主下嫁，太宗以公主是长孙皇后所生，敕令资妆要倍于永嘉长公主。魏徵上谏，以为长公主尊于公主，公主之礼不应超过长公主。长孙皇后听到此事后，十分钦佩魏徵的刚直敢谏。

颇有感触地对太宗说：“尝闻陛下重魏徵，殊未知其故。今闻其谏，实乃能以义制主之情，可谓正直社稷之臣矣。妾与陛下结发为夫妇，曲蒙礼待，情义深重，每言必候颜色，尚不敢轻犯威严，况在臣下，情疏礼隔，故韩非为之《说难》，东方称其不易，良有以也。”之后，便亲自去魏徵家，赐帛五百匹。魏徵的直言极谏，甚至说出了连长孙皇后也不敢轻易说出的话。

尽管太宗对魏徵的尖锐批评一时难以接受，但他毕竟认识到魏徵是忠心奉国，有利于国家长治久安，对他的犯颜直谏曾感叹说：“人言魏徵举动疏慢，我但觉妩媚，适为此耳。”当然，唐太宗的开明政治是魏徵屡次极言直谏的重要原因，因此他回答说：“陛下导之使言，臣所以敢谏，若陛下不受臣谏，岂敢数犯龙鳞?”这一番话也并不只是谦逊之辞。

魏徵对朝政失误的批评，对贞观政治纠谬补缺，多所裨益。太宗已感到自己不可一日离开他。太宗曾把魏徵比作良匠，自己比作金子，金子原在矿石里，它之所以称贵，是由“良冶锻而为器，便为人所宝”。史家高度评价魏徵说：“臣尝阅《魏公故事》，与文皇讨论政术，往复应对，凡数十万言。其匡过弼违，能近取譬，博约连类，皆前代诤臣之不至者。”