自王践言和李德裕共同上疏后，王守澄见二人通同一气，恐以后对自己不利，就想拆散二人之同盟，就不断在唐文宗面前劝召回王践言。唐文宗也认为西川之事每每上奏朝廷得知，皆王践言之功，就诏令王践言回京，擢为知枢密，得以常在文宗身边。王践言进京，唐文宗免不了要详问西川边事，王践言有问必答，文宗高兴，遂也问到维州之事，王践言因叹息说：“西川节度使李德裕取维州，本欲与朔方节度使李廓待吐蕃兵动，则可南北夹击，乘势收回河陇，兴复陛下帝业。实际上吐蕃今衰，无力东顾，若不还维州，其无能为力。还维州可惜，将悉怛谋交吐蕃更可惜。他与部将及其家属一百多口，统被杀，吐蕃过于残酷。尤为可惜的是，自此断了吐蕃旧臣向我大唐归新之路。陛下试想，吐蕃向我归诚之人，皆被送回吐蕃遭残杀，谁还敢再归诚我朝？诚为可惜，不知谁为陛下出此主意？”听王践言这样说，唐文宗深自后悔，徐徐说：“实是宰相牛僧孺误我大事。”
不久，这话传到了牛僧孺的耳朵里，唯恐再待在相位得祸，不如远离这是非之地，保全自己，于是上疏请求罢相。再加上赞同李德裕之策的，如裴休、杜牧等乘便对文宗说：“僧孺与德裕有隙，因妒德裕有功，有意害他大计。”唐文宗闻奏即准，出牛僧孺为淮南节度使，又一纸诏书，以荆南节度使段文昌为西川节度使，调李德裕回朝为兵部尚书，不久又擢为以本官平章事、加封赞皇县伯，与李宗闵同为宰相，李德裕入谢。唐文宗开延英殿召见，拜谒后，唐文宗问道：“朝中大臣多有论朋党之事，爱卿何以对？”德裕答道：“朝廷唯邪正二途，正必去邪，邪必害正。然其辞谐若可听，愿审所取舍。不然，二者并进，虽圣贤经营，无由成功。”这里是说邪正两道，都振振有词，必须仔细区别，若两边都信，文宗虽有中兴之志，也不会成功。这不由使唐文宗想到维州、西川若干往事，就点头同意。李德裕辞出，唐文宗想：德裕曰邪党，分明是“李牛之党”，而牛僧孺已出镇淮南，李宗闵仍在朝为相，自此产生了驱逐李宗闵之意。
李德裕知道中书省后即为延英殿、勤政殿等，按惯例有些朝官常由中书省顺路入宫，得便也可入台阁和宰相攀谈，甚至结党营私。所谓台阁，即中书省衙东、西两侧，在高出地面六尺的台基上，都有为宰相建有带暖阁的用房。丞郎等有事要见宰相，必须耐心等待，必等宰相有空，才得以入见，往往误事；郎官不是公事，根本不敢去谒见宰相。李宗闵为相后，常于台阁内接待宾客，甚至在此摆酒，致使有人大醉而归。当时给事中杨虞卿及其堂兄、中书舍人杨汝士，其堂弟户部郎中杨汉公，中书舍人张元夫，给事中萧瀚等交往甚密。他们依附李宗闵，常于台阁中议论政事，干扰有关衙门办事，为士人求官，为士子求科第功名等，都可在台阁中商议。为此朝内外议论纷纷。这些事传到唐文宗耳朵内，于是大怒，但又觉得不好处置，就召宰相入延英殿入对。他问道：“尔等知道朝廷有朋党乎？”李德裕奏道：“今中朝半为党人，虽后来者，趋利而靡，往往陷之。陛下能用中立无私者，党与破矣。”唐文宗又转向李宗闵说：“众人以杨虞卿、张元夫、萧瀚为党魁。”李德裕却脱口而出：“陛下不如从众议，皆出为刺史。”文宗问：“然均何处刺史为宜？”德裕答道：“请以虞卿为常州刺史，元夫为汝州刺史，萧瀚为郑州刺史。”李宗闵忙说：“不可！虞卿位给事中，所去的州应在元夫所在州之上。德裕居外镇日久，朝中党人之事哪有臣知详细？虞卿确常在私第见宾客，世称‘行中书’，故臣未尝予美官？”李德裕责问道：“给事中不是美官，何为美官？”李宗闵自知失言，一句话也回答不出。
很快诏书下，以杨、张、萧三人分别为常、汝、郑州刺史，李宗闵以同平章事为山南西道节度使，四人先后出京去了。李德裕又兼任中书侍郎、集贤大学士。他就着手改革中书省等一些旧弊，他明谕御史：凡有事见宰相的，先到中书省说明事由，由宰相出台省听事，不得在台阁召见。凡下朝，百官都从龙尾道出宫，不得绕行中书省。这样下朝后，文武官员再没有无故到中书省去的了。他又下令废去每当上朝日，朝廷于京兆筑沙堤和朱雀大街两边排列的禁卫军。旧俗，中书省、秘书省的内厨，都轮流选用江淮一带的大商人主管。这些主管们利用给两省选购美食的机会，假借其名义，可带着巨资周行天下。他们所到的州和军镇，都被地方上奉为座上贵宾，丝毫不敢得罪。这些巨商大贾们趾高气扬，利用官府保护，私运货物，到处贩卖，常获暴利。对于此制，李德裕下令一概废止，投机巨商们受到严厉打击。
自太和三年（829）以后，刘因对策下第，准备考进士科的士子们，不敢再过问策论，也不钻研《五经》，着意在文赋上下功夫。唐文宗以为近世文士不通经术，难以治理地方，深以为忧。学士杨绾上奏说，文学进士科考，必得依前由皇帝出题，临场考策论，不应只试诗赋。唐文宗用以征询群臣的意见，李德裕上奏说：“请陛下依杨绾议，方士不通经术之弊可除。”他又说：“昔日玄宗以临淄王的身份，曾平定了韦后、太平公主等内乱，自此以后疑忌宗室，不令宗室成员出阁。天下议论这是幽闭皇家骨肉，有伤人伦。向使天宝之末，建中之初，宗室散处方州，虽未能安定王室，尚可各自保全自身。之所以被安禄山、朱等为乱者作为砧板上的鱼肉，皆由于都聚在后宫的缘故。陛下诚能册封太子，下制书听任宗室年长者出阁，且除任诸州上佐，使携其男女出外婚嫁。此则百年弊法，一旦因陛下去之，海内孰不欣悦？”唐文宗说：“卿言是也。兹事朕久知其不可如此，方今诸王岂无贤才，只是无所施展罢了。”
不久，唐文宗就册立太子，又下制书说：“诸王自今以次出阁，授紧、望州刺史、上佐；十六宅县主，以时出适。进士停试诗赋。”唐时称距长安近且地位重要、人口多的州为紧；紧挨着“紧”、各方面仅次于紧，地位处于上中等的州为“望”。县一级也是比照这种标准分为紧、望、上、中、下等。上佐是大都督府的别驾、长史、司马的通称。制书已下，诸王也相继出阁，到州府后，却无下文了。唐文宗就是这样的人，事情总是议而不决，诸王既已出阁后，各自具体应为何官职，却不再去管。进士科考也是一样，如废诗赋考试，该考什么内容，怎样考？也不再过问。所以他的制书虽下，竟是一纸空文，徒引起下面混乱，久而久之自行自灭。李德裕见状，就上疏细议，但如石沉大海，久无音讯。
皇帝言而无信，必致朝政混乱、军镇豪强不服。昭义节度使刘从谏、徐州节度使高等属下悍将强卒皆渐看轻朝廷，节度使不能制，唐文宗深以为忧。单说卢龙节度使杨志诚自驱逐了李载义后，常遣使入朝求加他兼任仆射。唐文宗因仆射是朝廷高官，如封公侯一般，朝廷是不会轻易赐予的，怎能舍得给杨志诚？就不答应。适值朝使魏宝义路过范阳，杨志诚就拘禁了他，以此要挟朝廷必如杨志诚所求。唐文宗不得已，就要答应他的要求。李德裕制止说：“不可长此不正之风，可依前朝宰相裴度之策，朝廷派重臣巡视、抚慰河北诸镇，晓以大义，卢龙将士并非心意一致为杨志诚求贵。道义明，天下所指，杨志诚必不敢冒天下之大不韪。如得陛下恩准，臣愿代行其职。”唐文宗却说：“抚慰河北，费时又费财，其值远非一仆射可比。”就不听德裕之言，拜杨志诚为右仆射，另派使臣到卢龙慰谕。当时任殿中侍御史的杜牧，见唐文宗如此姑息迁就军镇悍将，只惜钱财，不从大局考虑，因慨然论河朔大事，作《罪言》，其曰：
“天宝末，燕盗徐起，出入成皋、函、潼间，若涉无人地，郭、李辈常以五十万，不能过邺。自尔一百余城，天下力尽，不得尺寸，人望之若回鹘、吐蕃，义无有敢窥者。国家因之畦河修障戍，塞其街蹊，齐、鲁、梁、蔡，被其风流，因亦为寇。以里拓表，以表撑里，浑回转，颠倒横斜，未尝五年间不战，生人日顿委，四夷日猖炽，天子因之幸陕、幸汉中，焦焦然七十余年矣。呜呼！运遭孝武，浣衣一肉，不畋不乐，自卑冗中拔取将相，凡十三年，乃能尽得河南、山西地，洗削更革，罔不顺适，惟山东不服……今天子圣明，超出古昔，志于平理，若欲悉使生人无事，其首要在于去兵，不得山东，兵不可去，是兵杀人无有已也。今者上策莫如自治。何者？当贞元时，山东有燕、赵、魏叛，河南有齐、蔡叛，梁、徐、陈、汝、白马津、孟津、襄、邓、安、黄、寿春皆戍厚兵，凡此十余所，才足自护治所，实不辍一人以他使，遂使我力解势弛，孰视不轨者，无可如何。阶此蜀亦叛，吴亦叛，其他未叛者，皆迎时上下，不可保信。自元和初至今二十九年间，得蜀得吴，得蔡得齐，凡收郡县二百余城，所未能得，惟山东百城耳。土地人户，财物甲兵，较之往年，岂不绰绰乎？亦足以为治也。法令制度，品式条章，果自治乎？贤才好恶，搜选置舍，果自治乎？障戍镇守，干戈车马，果自治乎？井闾阡陌，仓廪财赋，果自治乎？如不果自治，是助虏为虐，坏土三千里，植根七十年，复有天下阴为之助，则安可以取。故曰，上策莫如自治。中策莫如取魏。魏于山东最重，于河南亦最重。何者？魏在山东，以其能遮赵也，既不可越魏以取赵，固不可越赵以取燕，是燕、赵常取重于魏，魏常操燕、赵之性命也。故魏在山东最重。黎阳距白马津三十里，新乡距孟津一百五十里，陴垒相望，朝驾暮战，使二津虏能溃一，则驰入成皋不数日彰，故魏于河南亦最重。今者愿以事明之。元和中，攒天下兵，诛蔡诛齐，顿之五年，无山东忧者，以能得魏也。昨日诛沧，顿之三年无山东忧者，亦以能得魏也。长庆初诛赵，一日五诸侯兵四出溃解，以失魏也。昨日诛赵，罢如长庆时，亦以失魏也。故河南、山东之轻重，常悬在魏，明白可知也。非魏强大能致如此，地形使然也。故曰取魏为中策。最下策为浪战，不计地势，不审攻守是也。兵多粟多，驱人使战者，便于守；兵少粟少，人不驱自战者，便于战。故我常失于战，虏常困于守。自十余年来，凡三收赵，食尽且下。尧山败，赵复振；下博败，赵复振；馆陶败，赵复振。故曰，不计地势，不审攻守，为浪战，最下策也。”
杜牧《罪言》成，文人学士纷纷传抄，称之为“刘第二”。李德裕素重于各种策论，派人辗转抄回，阅罢暗暗点头，心想：杜牧一介书生，曾以《阿房宫赋》名满天下，今又以兵家之言纵论自“安史之乱”以来，七十多年的河朔军事。他谓之“山东”不依史上崤山之东说，却别开生面，以华山之东论，故推魏博镇为两河至重，堪为天才之见。然论魏博之为军事重镇，控两河“地形使然也”，意在愤河北三镇之桀骜，朝廷却专事姑息，确切中时弊。就将《罪言》用楷书工整抄写，上奏文宗，望他能省悟，却杳无音讯。
