1912年1月3日，南京临时政府组阁，伍廷芳出任司法总长，而外交总长则由王宠惠出任。
消息一出，舆论哗然。因为无论凭资历、声望，还是工作的连续性，大家都认为外长一职都理应归于伍廷芳（伍之前任中华民国军政府外交总长），而不是从耶鲁大学毕业还没几年的毛头小伙子王宠惠（时年31岁）。就连王宠惠本人，也深知自己根本不能与伍廷芳相提并论，故而表示不敢接任此职。消息传到上海，伍廷芳在沪的广东老乡们不但对孙的安排大加抨击，还扬言要暂不交付本已认定的借款白银40万两。美侨创办的英文报纸《大陆报》的记者也向孙中山提问，表示这个任命“颇滋群疑”。孙中山回答，伍廷芳外交上名头虽大，“惟吾华人以伍君法律胜于外交”，他过去编辑新法的心得经验，现在可以“施行于共和民国”，而且民国建设伊始，“宜首重法律”。外交虽然本为一国最重要的政策，但法律未编定，才能再高，“掌理外交，亦将无用”，所以“本政府派伍博士为法部总长，并非失察”。他的理由虽然听来完美，却并未能说服众人。据说，孙中山做这样的人事安排，是由于他有意于暗中自主外交，这样当然是用年轻人比用长者更便利。否则，要绕开伍廷芳，谈何容易！所以，他力劝王宠惠“勿怯也”，大胆上台。
伍廷芳本人对这次任命反而没有表现出什么不满，他一再表态，说自己视这两个职位“无甚差异，无所好亦无所恶”。他还去信阻挡护己心切的同乡们，以大义相申，劝其“阋墙之争，最所当戒”，以免为人所乘。一场风波虽然因为他出面打圆场而消弭于无形，但这也预示着伍廷芳与革命党人以后的合作必定充满纠葛、分歧。
临时政府的人事任命问题只是一个序幕，南北议和进入最后阶段时，袁世凯授意的一个新提案引起了令双方不快的风波。袁的提案，大致意图就是要求清廷准他先期在天津成立一个临时政府，以应付清廷和南方临时政府同时消失的局面，到时他便可以大权独揽。
孙中山当然知道袁世凯的如意算盘，于是令伍廷芳改变原来与北方达成的共识，即在清廷逊位后南方共和政府即于两日内解散的协定，以反制袁的新提案。但是，伍廷芳却以为，这是一种自食其言的做法。他引唐绍仪的话说清帝退位后，“北京必不即设临时政府，此层可以无虑”；他还以为，孙中山出此下策，是由于他个人有心恋栈。孙中山连忙出来解释、辩诬。所幸的是，后来清帝退位，南北筹商统一政府并没有出现大的波折，所以这场风波也就不了了之了。
真正让伍廷芳疏远革命党人的一场风波，是围绕“姚荣泽案”、“宋汉章案”与沪军都督陈其美展开的“权法之辩”。
姚荣泽是一个武昌起义后，曾经受到革命党人奚落而怀恨的前清县令，于是他借故杀害了两名革命党人；宋汉章则是一个对陈其美的革命事业不予金融支持的银行经理。陈其美先伺机将其拘捕，后历数其侵吞舞弊劣迹，称其为法理难容。两案后来均在上海审理，但是，对于审判官、陪审员的任命及律师聘请、开庭程序，尤其是政府各部门的权限等问题，作为司法总长的伍廷芳，却与陈其美及不少革命党人产生了不可调和的分歧。陈其美的意思大致是他要做一个现代“包公”，只要抱定是为了革命，目的是正义的，而且犯罪事实认定为昭然若揭，那么“包公”就应该包办一切：抓人、查案、判案、量刑，一竿子插到底，至于那些严格而烦琐的法律程序，不但是没有必要的虚文，更会妨害效率，影响正义的伸张。因此，就不应消极地拘束于什么尊重个人自由之类的说辞，而要积极地惩恶扬善。陈其美频频强调：“本都督疾恶如仇”，为民做主，惩治民贼，筹措军饷，都是理所应当的事，没有什么输理的地方，至于个人毁誉，又何足道哉，“方冀痛除旧染，力图改革，宁为众矢之的，不愿以道徇人”。
与陈相反，伍廷芳则认为，正是这种老“包公”的思路，妨碍了现代的司法独立和司法公正。为了给民国法制打下良好基础，就一定要抛弃这种“权”大于“法”、以“权”压“法”的旧模式。这样一来，他就无法与陈其美等人为伍了。
革命党人既然不能满足自己的法治理想，袁世凯就更没有希望了。伍廷芳对袁世凯本无好感，数月以来，他与之电报往返无数次，对袁反复、无信的政治品格也责备了无数次。后来，他拒不接受袁世凯向缔造共和有功人员颁发的勋位（此荣誉仅次于孙中山、黎元洪的大勋位），谢绝了袁世凯的入阁邀请，“以年老吃素为辞职”，拒绝赴南京参加“庆祝中华民国成立一周年纪念大会”。他还规劝袁世凯到印度考察佛教，其中隐藏“放下屠刀，立地成佛”之讥义，都可谓是其来有自。
1912年4月，南京临时政府解散，政治中心北移。伍廷芳也已辞去司法总长一职，重新回到“观渡庐”，又做起了看似优哉游哉的“观渡庐”主人。
