曾国藩认为，在用人上必须特别谨慎，用人得法可以推进事业发展，而用人不得法则可能招致失败。除了要实现人尽其才，才尽其用外，还必须做到用人须慎，非才不用，严惩害群之马。
在曾国藩看来，夸夸其谈的人不可用。曾国藩认为，为人应力戒表现欲太强。曾国藩不喜好夸夸其谈，到处表现自己。另外，曾国藩还说，人只要稍微有些才能，就想要表现出来，以显示与别人的不同。争强好胜的人这样，追逐名誉的人更是这样。因此，曾国藩不仅常常检点自己的言行是否表现欲太强，而且对其僚属中有这一倾向的人也及时教诲。
曾国藩第二次做两江总督时，李鸿裔来到他的幕府中。李鸿裔少年倜傥，不拘小节，曾国藩特别钟爱他，拿他像儿子一样看待。曾国藩的密室，只有李鸿裔可以随便出入。当时曾国藩的幕僚中有所谓的"三圣七贤"，都是名极一时的宋学大家。曾国藩看重他们的名声，都把他们召纳了进来。然而只是安排他们的衣食住行等，并不给他们安排事务和职位。一天，曾国藩正和李鸿裔在室中坐着谈话，正巧有客人来到。曾国藩出去迎见客人，留下李鸿裔自己在室中，李鸿裔翻看茶桌上的文本，看到《不动心说》一首诗，是某一位老儒所写的，这老儒即是这十个圣贤中的一个。
李鸿裔看后，觉得此人并没有什么水平，徒有虚名罢了，于是提笔便在上面戏题了一首歪诗，辛辣地讽刺这个人的虚伪，写完后，扔下笔就出去了。曾国藩送走了客人，回到书房，看到了所题的文字，叹道"一定是这个小子干的。"就让左右把李鸿裔找来，曾国藩指着他所写的文字问道："是你干的吧7"李答："是。"曾说："这些人都是些欺世盗名之流，言行一定不能坦白如一，我也是知道的。然而他们所以能够获得丰厚的资奉，正是靠的这个虚名。现在你一定要揭露它，使他失去了衣食的来源，那他对你的仇恨，岂能是平常言语之间的仇怨可比的？杀身灭族的大祸，隐伏在这里边了。"李鸿裔很敬畏地接受了教诲，从这以后便深深地收敛自己，不再敢大言放肆了。
在曾国藩看来，轻薄人不可用。曾国藩对于轻薄有深层次的理解，他说，大凡人品德寡薄，大约有三端最容易触犯：听到别人有恶德败行，听得娓娓不知疲倦，妒忌别人的功业和名声，庆幸别人有灾，高兴别人得祸，这是薄德的一端。人受命于天，臣受命于君，儿子受命于父，这都是有一定之数的，但有些人不能接受命运的安排，身居卑位而想尊贵，臼夜合我谋划，将自己置在高明的地方。就像一块金子，)台炼时自认为是莫邪、干将一类的宝剑了，此是薄德的第二端。胸中包蕴着社会上的清清浊浊、是是非非，但不明确去表示赞成或者反对，这本来是圣人哲人的良苦用心，如果要勉强区分什么黑白，遇事就激动张扬，这是文士轻薄的习气，娼伶风流的形态，我们这些人不体察就去效仿它，动不动就区别善恶、品评高下，使优秀的人不一定能得到勉励，而低劣的人几乎没有立足之地，这是薄德的第三端。
因此曾国藩最反对幸灾乐祸、狂傲自大、妄断是非、自以为是的那些人，而他自身就是自修严谨，更多地看到别人长处的人。他尤其是一个极富怜悯心的人，一些有功业名声的人遭了灾难，即使在戎马倥偬自身难保的艰难岁月，他也绝不会无动于衷，而是尽量地给予照顾。咸丰年间，曾国藩驻守祁门，险象环生，储备极其困乏，是他一生行军中最艰难的时候。一天，忽然想起安徽那一带多有经学大师，遭受战乱，颠沛流离，生死都不知道，于是派人四处寻找，生存的人给以书信，约他们来军中的幕府相见，死去的人对其家小给予抚恤，索取他们留下的文章保留。
在曾国藩看来，除了要慎重使用人才外，还有一点特别重要的是，对于那些不讲究组织纪律性的人一定要清理出去。在曾国藩驻军衡阳、编练湘军的时候，就出现过这样一件事情。
王鑫本是曾国藩非常赏识和信任的一名将领，一直受到曾国藩的重用。
为了招募更多的湘军，也出于锻炼培养王鑫的需要，曾国藩命王鑫回湖南招募湘勇。王鑫回到湖南后太过张扬，出入都要敲锣打鼓讲究排场，湖南当地的士绅对此有所不满，后来王鑫又将湘勇招至三千人，远远超过规定的人数。
更令曾国藩气愤的是，王鑫竟然带着三千湘勇赶到长沙，与湖南巡抚骆秉章关系密切起来，很显然有不再听曾国藩指挥、希望自立门户的倾向。
曾国藩实在无法容忍，于是断然要求王鑫立即将军队带回驻地，并明确地说除一营由王鑫统带外，新招的湘勇只保留二营和三营，并且营官由曾国藩直接任命，军队按照统一的营制操练。但湖南巡抚骆秉章暗中支持王鑫，主张保留军队，并命令加紧军队的操练，听候调遣。在这种情况下，王鑫有恃无恐，公开抗拒命令，最终导致曾国藩和王鑫的彻底决裂。从此以后，王鑫自行制定规章制度，自己选派营官，目的是在组织上、制度上完全独立于曾国藩的湘军之外。面对关系到自己和湘军前途命运的大事时，曾国藩绝不妥协。于是，一八五三年十二月，曾国藩给王鑫发去一封最后通牒式的信函，曾国藩再次强调了自己的观点，要求王鑫立即回到驻地，自己统带一营士兵，其他各营由曾国藩委派营官统带，各营的勇丁必须遵守湘军统一的营制，不得随意裁减、增加人数，更不得各行其是，并明确提出新招募的勇丁必须经过统一的两个月的训练后，才能开赴战场。简而言之，王鑫必须听从自己的指挥，否则就将王鑫逐出师门。
王鑫错误地估计了形势，以为自己追随湖南巡抚骆秉章比追随曾国藩更有发展前途，于是对曾国藩的警告丝毫不予理睬。骆秉章为了拉拢王鑫，表示湘军可以继续驻扎在省城长沙，所统带的三干勇丁可以不裁撤。于是，王鑫和曾国藩彻底决裂了。
不言而喻，王鑫式的决裂将对湘军、对曾国藩本人都产生恶劣的影响。
为防止类似的事情再次发生，曾国藩断绝了和王鑫的一切关系，且在各种不同的场合对王鑫大加攻击，使王鑫失去一切发展的机会。再加上湖南省内财政发生困难，军饷不足，因此不得不将王鑫所率的三千湘勇裁减一千。王鑫的事件对可能出现的效法者起了警戒的作用。同时，曾国藩刻意讲求笼络和控制部属，利用同乡、师生、亲朋等关系结成一个湘军官僚集团，并对个别敢于步王鑫后尘的人，给予打击。
