“不在其位，不谋其政”的深层思想，正在于强调各守其位，各司其职；行政分工，各专其职。这是一条最基本的行政准则。如果自己手里的工作没有干好，却去为别人分管的事操心，说长道短，越职任事，这样就会把分工搞乱了，又会制造出无穷无尽的人事矛盾。所以古代政治家都主张各主其事，反对越局滥职。
汉文帝时期，大功臣周勃被拜为右丞相，陈平为左丞相。周勃与陈平共辅国政，忠心耿耿，位尊望重。但有一次周勃却被汉文帝问得冷汗直流，自惭不已。
汉文帝一日临朝问周勃：“天下凡一年内，决狱几何？”周勃回答不出，文帝又问：“每年钱谷出入多少？”周勃又无言以对。汉文帝心中不快，转问陈平，陈平从容奏道：“这些事自有人知道。决狱几何，可问廷尉；钱谷多少，可问治粟内史。”汉文帝听了很恼火，就责问陈平：“照你这么说，那你宰相是干什么的？”陈平又从容回答说：“宰相的职责，上佐天子，下抚百姓，内使卿大臣各尽其职。”陈平这番话答得何等巧妙。意思是说：当宰相的就是考察各大臣是否尽职，至于像决狱、钱谷一类的具体情况，只要管这个部门的大臣了解就可以了。汉文帝原本以为陈平是在说自己问错了对象，这会才知道他是在说明各司其职的道理，立即转怒为喜，称赞陈平回答得好，讲得对。
有人认为陈平的这一回答是“狡辩”。但我们认为，这不仅展示了陈平作为政治家的气度，而更重要的是他懂得“不在其位，不谋其政”与“在其位，谋其政”的辩证关系。
丞相作为皇帝的直接助手，一人之下，万人之上，他的职责就是“上佐天子，下抚百姓，内使卿大臣各尽其职”。“这是在其位，谋其政”。正因为如此，不可能也不应该对各种具体事务管得那么细，天下一年之内断多少案件，刑事案多少，经济案多少，与上年比是多还是少，有没有冤案等等，这是廷尉管的事，司法部门的领导应该清楚。至于每年粮食产量多少，是丰收还是歉收，来年有什么打算，这是治粟内史管的事，我陈平如果样样清楚，样样都管，那将是“越局滥职”，就是“不在其位而谋其政”。就重视行政分工，强调各司其职来讲，陈平的答话，是非常正确的。
除孔子说的“不在其位，不谋其政”外，《易传》中也说：“君子谋划事情不越出他的职位。”庄子也讲过：“厨子虽不下厨，主管上香祭神的人也跑不到肉案边去代他烹调。”韩非子更强调严惩那些侵官越职管闲事的人。他曾讲了韩昭侯的一个故事，要求大家都应像韩昭侯那样执法严明，严惩下属的越职行为，韩昭侯有一次喝醉了酒伏在几案上睡着了，专门为他管理帽子的人怕他着凉，就在他身上披了件衣服。韩昭侯一觉醒来，看见自己身上披了一件衣服，很高兴地问旁边的人：“是谁怕我着凉而给我加了衣服？”旁边的人告诉他是管帽子的人。韩昭侯一听，脸色立即晴转多云，并下令对两个人治罪，其中一个当然是管衣服的人，令人不解的是另一个竟是那个好心、细心的管帽子的人！管衣服的人没有干好本职工作，差点让君侯着凉，理应治罪；可是那个管帽子的人是有功之人呀，干吗不受赏反遭罚？韩昭侯说，他怕着凉，但他更害怕的是臣下们超越自己的本职工作去干别人的职事所带来的责职不明、秩序混乱等等祸害。
韩非子所讲的虽是一个极端偏颇的例子，但也确实从一个侧面说明了各守其位、各司其职的重要性。
俗话说，“天下兴亡，匹夫有责。”人人都应该关心政治，关心国家大事。孔子是主张积极入世的，他所说的“不在其位，不谋其政”，实际上包含了两个方面的深刻的治事原则：其一，不要随便议论、批评自己本职工作以外的事情；其二，不要越俎代庖，超越自己的职责、身份去染指他人的职事。“不在其位，不谋其政”所包含的智慧所能产生的作用能量，并不亚于任何一句催人奋进的口号。运用“不在其位，不谋其政”的原则，注重实干，少发议论；提倡人人干好本职工作，避免相互内耗；严明责职权限，根除踢皮球乱扯皮现象；可以避免外行干扰内行和不经切身经验、不明情况的胡乱干预。对于一个国家或组织来说，无疑是一种提高组织效率的有效办法。
