有一次，唐太宗从长安到洛阳，中途在昭仁宫（今河南省寿安县）休息，因为对他的用膳安排不周而大发脾气。魏征当面批评唐太宗说：“隋炀帝就是因为常常责怪百姓不献食物，或者嫌进献的食物不精美，遭到百姓反对，灭亡了。陛下应该从中吸取教训，兢兢业业，小心谨慎。如能知足，今天这样的食物陛下就应该满足了，如果贪得无厌，即使食物好一万倍，也不会满足。”唐太宗听后不觉一惊，说：“若不是你，我就听不到这样中肯的话了。”
贞观中期以后，唐朝经济更加繁荣，政治也很安定，朝廷大臣都尽力歌颂太平盛世。只有魏征不忘过去的艰苦，给唐太宗上了一道奏章，指出他在十个方面的缺点，希望他警惕，保持贞观初年的好作风。唐太宗把这个奏章写在屏风上，早晚阅读，引为借鉴。他对魏征说：“我现在知道我的过错了，我愿意改正，否则，我还有什么脸面和你相见呢？”
由于魏征处处为国家的利益着想，对皇帝的批评毫不客气，唐太宗对他既尊敬又畏惧。一天，唐太宗正在逗弄一只小鹞，看见魏征走进来，怕魏征责怪，急忙将鹞藏在怀中。魏征装作没看见，向唐太宗奏事，故意拖延时间，等他离开的时候，鹞已经闷死了。
贞观五年（公元631年），权万纪、李仁发摸准了太宗的脾气，知道他不爱听拍马屁的话，就常常显出一种大义凛然的假相，以向唐太宗进谏的名义进谗言，攻击大臣，骗得了太宗的信任，使朝廷上下怕恐不安，朝臣们明知太宗被人蒙哄，但没有人敢去与太宗争论。
唯独魏征无所畏惧，他上书说：“权万纪、李仁发是小人，不识大体，以谗毁为是，告讦为直，凡被他们指责的都没有罪，陛下掩其所短，听信谗言，使他们的阴谋得逞，附上罔下，多行不义，还骗得刚正美名。他们诬陷房玄龄，斥退张亮，没有起到整肃激励的作用，白白地损害了陛下的圣明。朝廷内外，议论纷纷。我想陛下一定认为这两人深谋远虑，可作栋梁之材，用他们的无所避忌来警戒群臣。陛下切不可用小人谋害忠臣，这样群臣才没有虚诈行动；你相信小人只能使群臣离心离德，房玄龄、张亮尚不敢申辩，其余疏远的人，位置低的人，怎么避免他们的诬陷呢？自从你重用二人以来，他们没有为国家办一件好事，陛下即使无处选择好人来发扬圣德，也不能重用奸臣来损害自己的形象。”
魏征言词恳切，句句属实，使权万纪、李仁发的卑鄙伎俩一下子全部暴露了出来，同时也把太宗用人不当的错误毫不客气地指了出来。
太宗恍然大悟，对自己的错误作出了深刻的检讨，并欣然接受魏征的意见，为表扬魏征敢于进谏的行为，赏赐绢五百匹。对权万纪、李仁发的恶行进行了审判，按律把权万纪贬为连州司马，李仁发被罢官。
贞观六年，天下已趋于大治，群臣请太宗到泰山封禅，并称颂太宗功德，说现在举行封禅大典，已经太晚了。
魏征认为不行。
太宗说：“希望你直说，别隐讳。我的功绩不高吗？”
“高啊。”
“德行不厚吗？”
“厚啊。”
“天下没有治理好吗？”
“治理好了。”
“五谷不丰登吗？”
“五谷丰登。”
“那为什么不能封禅呢？”
“陛下功德虽高，百姓还没有记住您的恩惠；德行虽厚，恩泽还没有普施天下；华夏虽安，还不足以负担封禅费用；外族虽仰慕，还没有更多的东西来满足要求；吉兆虽出现，刑网还遍布天下；虽获几年丰收，粮仓还空虚。我认为不可封禅，比如有人患病十年，经治疗刚刚痊愈，仅剩皮包骨头，叫他背一石米，每天走一百里路，一定不行。隋乱不止十年，陛下是良医，虽解除了病痛，但还不充实。何况要到泰山，各国使者都要来参加，从长安一直到泰山，沼泽遍布，茫茫千里，人烟尽绝，鸡犬不闻，道路萧条，进退艰难：这不是把我们内部由战争造成的弱点显示给外人看吗？竭尽财力，不能满足外人的渴求；免除赋税，不能补偿老百姓的劳苦。如果碰上天灭，有人产生邪念，后悔就来不及了。”
太宗静听后，终于放弃了泰山封禅的劳民伤财之举，并称赞魏征说得颇有道理。
魏征在“忠臣”和“良臣”的区别上，有自己独特的见解。有人诬告魏征包庇自己的亲属，太宗派温彦博调查，结果是假的。
温彦博说：“魏征不注意自己的行为，不避嫌疑，从而遭到诽谤，应该批评。”
太宗派温彦博批评了魏征。
魏征拜见太宗，说：“我听说，君臣同心，是谓一体，怎么能为自己的名声而避嫌疑呢？如果人人都只要求明哲保身，国家的兴亡就很难料定了。”
太宗恍然大悟，说：“我终于醒悟了。”
魏征说：“我希望作一个良臣，不希望作忠臣。”
太宗说：“忠臣和良臣有什么区别。”
魏征说：“稷、契、咎陶是良臣，龙逢、比干是忠臣。良臣使自己有美名，使国君有显号，子孙传承，流祚无疆。忠臣，自己被诛，国君昏恶，国破家亡，只得到空名。这就是忠臣和良臣的区别。”
太宗说：“非常正确。”
魏征对唐太宗的不对之处敢于直言。
有一天，太宗问：“我们的国家治理得如何？”
魏征看到太宗有自满之意，回答说：“陛下在贞观之初，引导人们提意见、建议。三年之间，见提意见、建议的人就高兴，并积极采纳。再过一两年，勉强接受意见、建议，但始终有不高兴的意思。”
太宗很吃惊，问：“你凭什么证明这一点？”
魏征说：“陛下初即位时，判元律师死罪，孙伏伽认为按照法律不应该死罪，陛下将兰陵公主园赏赐给他，价值百万。有人说：‘赏得太重。’陛下回答：‘我刚即位，还没有提意见和建议的人，所以要重赏。’这就是引导人们提意见、建议。后来柳雄诉隋资案，调查下来是假的，要将他处死，戴胄说应只判徒刑。陛下对戴胄说：‘如此坚定不移地依法办事，就不怕滥用刑罚了。’这就是高兴听取意见。最近皇甫德参上书说：‘修洛阳宫是劳民，收地租是厚敛；社会上流行妇女挽高髻是从宫中学来的。’陛下很愤怒，说：‘他是要国家不征一人服役，不收一颗地租，宫中人都不留头发才遂心意。’我奏道：‘下臣上书，语言不激烈不能引起重视，语言激烈了，就接近讪谤。’这时，陛下虽然听取了我的意见，赏给帛绢而罢，但心里总是不高兴，这就难接受批评建议了。”
太宗恍然大悟：“不是你，没有人能给我说这样的话，人往往自己看不到自己的缺点。”
唐太宗曾说：“贞观以前，跟随我平定天下，功劳要算房玄龄；贞观以后，纳忠谏，纠正我的错误，为国家长治久安，魏征功劳最大；即使是古代的名臣，也超不过他们。”
他解下自己的佩刀，赐给二人。
魏征给唐太宗提的建议，大多数被唐太宗采纳，魏征成为中国历史上最著名的谏臣，贞观七年，升为侍中。尚书省有不能决断的事情，太宗命魏征裁决。魏征对法律不太熟悉，只要大体合情合理即可，人人悦服。晋升为光禄大夫，封郑国公。
魏征年老多病，要求辞职。
唐太宗说：“你看到黄金在矿石里不足为贵，金匠把它冶炼出来制成器具，人们都当做宝贝。我好比金矿需要你这样的良匠加以磨砺。你虽有病，但还没有衰老，怎么能退休呢？”
魏征再三请退，唐太宗留得更紧。拜为知门下省事。
长孙皇后死后，葬在昭陵，太宗在宫苑中修高台，遥望昭陵，带魏征一起登台。
魏征看了很久说：“臣眼昏花，看不见。”
太宗指示方向让魏征看。
魏征说：“这是昭陵吗？”
太宗说：“对，正是。”
魏征说：“臣以为是望献陵，如果是昭陵我早就看见了。”
太宗痛哭一场，命撤毁看台。原来，魏征之话的意思是：“臣只道陛下思慕太上皇，所以认为是望献陵。若是皇后的昭陵，早已看见了。”太宗一听魏征说起父皇，心里感动，不觉泣下。想到自己不是思念先皇，而只是思念皇后，举动不妥，于是命人拆毁此台，不再登了。
贞观十七年（公元643年），魏征病重，他家无正厅，太宗停建宫中一小殿，用其材为魏征盖一正厅，五天完工，赐给素褥布被，彰其节俭作风。派中郎将驻魏府第，随时报告，传病情、药物、膳食，尽其所用，路上使者来往不绝。太宗亲自问病。到天黑才回。第二天早晨，魏征去世。太宗亲往痛哭，罢朝五日。
魏征少不得志，连投数主，不得其人，后成太宗政敌，太宗不记前嫌，一再提拔重用，成为大唐名臣，为贞观之治立下了不朽功勋。
