吕蒙正常说：“我没有多大本领，只有一条，能用人也”。他在做宰相时，善于发现人才，培养人才，有时为了推荐一个人，甚至不怕担风险，遭斥责。皇上赵光义谕中书选拔人才，他暗示朔方是择才对象之一。吕蒙正得知后，也把自己物色的人选抄名单上报。皇上一见生气，胆敢违旨，决定不用，一日三次找吕蒙正谈话，吕蒙正三次答对坚持。皇上发怒，将奏单掷之于地，且严厉斥责道：“卿何以这般固执？”吕蒙正答道：“臣非固执，实因陛下不了解此人。就是固执，臣认为此人可使，别人皆不如他。”稍停，吕蒙正用了一句谁也不敢讲的话禀告皇上，他说：“臣不愿用媚色盲目追随人主，这样做，是要误失国家大事的。”说毕，俯身拾起奏书置入怀中退殿。此情此景，同列者均悚然而不敢动，面色阴森。皇上退朝，抚心沉思，对左右说：“吕蒙正气量，朕不如也。”遂启用了吕蒙正所荐之人，果然称职。
富言，是吕蒙正家中座上客，相遇海阔天空，无话不谈。一日，当谈得正起劲时，富言提出：“吾儿已十岁多，想入书院求读，不知吕公之意若何？”吕蒙正当即应允。富言携儿相见，言未数语，吕蒙正惊奇，心中暗自称赞，是个好后生，英俊天才，他日名位当与我可能相似，功勋业绩亦可能远远超过我。随即留住，衣食全供给，且甚丰。富言之子，即富弼也，后两次入相，北宋时的名臣。
吕蒙正已离职回里了，有一次宋真宗赵恒来看望他，问道：“卿有数子，卿认为有谁能到朝廷挑重担？”吕蒙正思索片刻回答说：“臣虽有犬子多人，但在臣看来一个也不可足用。据我们平时考察，侄子夷简倒是一个人才，现在颍州（今河南禹州市）担任推官，是宰相的料子。”从此宋真宗头脑里就有了吕夷简这个人的印象，并时常考虑如何使用他。赵祯即位，是为仁宗，吕夷简很快做了宰相，是宋仁宗巩固封建政权的得力助手。
吕蒙正身边有一只布袋，袋子里装本子一册，专门记载有关人事方面的问题。他自己考察的记录进去，别人向他汇报的也记录在这本子上。各地官吏来住地拜会他，都耐心地详细询问发现人才没有，情况如何。客去，他怕时久易忘，立刻记录备案，以待后用。一旦朝廷求人，他即拿出手册，清清楚楚地给皇上介绍。后来事实证明，经过他推荐的宰相和文武官员，一般都很称职，在朝臣中颇有信誉。但他反对营私舞弊，买官鬻权；有一朝士，家中收藏古镜一面，且对人说，该镜能照二百里，是古宝也。他以求知为名，想献给吕蒙正。吕蒙正洞察其中之奥妙，非常严肃地拒绝道：“吾面不过碟子大，哪能照耀二百里。”朝士面如赤纸，没趣地走了。
宋真宗景德二年（1005年）春，吕蒙正上疏辞官回故里洛阳去了。在洛阳，栖居在宋太宗赐予他的“丽景门”官邸里。该宅厅堂秀俊，园亭花木俱全，是个安度晚年的好地方。儿孙环列，满堂春风，且常与亲友故旧设宴联欢，怡然自得。为了怀念赵家王朝器重他的恩德之情，宫中营造永熙陵时，奉家财百余万以表资助。因而真宗赵恒两次祭扫永熙陵时，均亲自到洛阳看望他，并赐贵重的金属装饰品。赵恒走后，他将圣上坐过的厅堂，用木栅隔起，设御榻，不准庶人复坐，作文物保护起来。
六十八岁时吕蒙正谢世，赠中书令，谥曰“文穆”。
