唐太宗李世民器重魏征的正直，任命他做了谏议大夫（负责向朝廷提意见的官员）。

有一年，唐太宗派人征兵。有个大臣建议，不满18岁的男子，只要身材高大，也可以征。唐太宗同意了。但是诏书却被魏征扣住不发。唐太宗催了几次， 魏征还是扣住不发。唐太宗大发雷霆。魏征不慌不忙地说：“我听说，把湖水弄干捉鱼，虽能得到鱼，但是到明年湖中就无鱼可捞了;把树林烧光捉野兽，也会捉到野兽，但是到明年就无兽可捉了。如果把那些身强力壮、不到18岁的男子 都征来当兵，以后还从哪里征兵呢？国家的租税杂役，又由谁来负担呢？ ”良久， 唐太宗说道：“我的过错很大啊！”于是，又重新下了 一道诏书，免征不到18岁的男子。

一次，唐太宗从长安到洛阳，中途在昭仁宫（现在的河淘省寿安县）休息， 因为对他的用膳安排不周到而大发脾气。魏征当而批评太宗说：“隋炀帝就是因为常常责怪百姓不献食物，或者嫌进献的食物不精美，遭到百姓反对，灭亡了。 陛下应该从中吸取教训，兢兢业业，小心谨慎。如能知足，今天这样的食物陛下就应该满足了，如果贪得无厌，即使食物好一万倍，也不会满足。”唐太宗听后 不觉一惊，说：“若不是你，我就听不到这样中肯的话了。”

魏征为人耿直，有才干，是个忠臣，李世民不计前仇，任用他为谏议大夫。 魏征不断向李世民提出好的建议，使李世民对他十分佩服，经常将魏征请入居室， 询问得失，魏征愈来愈被重用，先后被李世民提升为秘书监、侍中、宰相，并封 他为魏国公。

李世民曾说：“我好比山中的一块矿石，矿石在深山是一块废物，但经过匠人的锻炼，就成了宝贝。魏征就是我的匠人！”

魏征去世后，李世民说，用铜制成的镜子，可以照见衣帽是否端正;用古史做镜子，可以参照政治的兴衰;用人做的镜子可以知道自己的成绩与过错。我经常保持着这三而镜子，现在魏征去世了，我少了一面镜子。即“以铜为镜，可以正衣冠;以古为镜，可以知兴替;以人为镜，可以明得失。……今魏征殂（死亡）逝，遂亡一镜矣！”

以“犯颜直谏”著称的大臣魏征，常常与唐太宗而谏廷争，有时言辞激烈， 引起唐太宗的盛怒，他也毫不退让，往往使唐太宗感到难堪，下不了台。不过事后唐太宗能认识到，魏征极力进谏，是为了使自己避免过失。因而先后接受了魏征200多次批评规劝，还把他比作可以纠正自己过失的一面镜子。

正因为唐太宗善于纳谏，勇于听取大臣的忠告，并及时改正自己错误的决定和做法，才出现历史上少有的“贞观之治”的繁荣景象。