在李密正式被瓦岗寨接受之后便又将之前对王伯当等人干过的事情重复重复再重复。对翟让开始了猛烈的忽悠行动，具体过程可以简单归纳为李密见到翟让就用一副先知的表情说：“这位老大，我看你骨骼精奇，定是万中无一的造反奇才，维护世界和平，打倒暴隋地任务非你莫属。”可惜翟让不是五岁的小孩，对李密这套打倒皇帝揭竿而起的革命理论，并不感冒，因此坚持打家劫舍，逍遥快活的盗贼理论不动摇，让李密白费了一番唇舌。但正如电影《鹿鼎记》中陈近南说推翻清朝是他的人生理想，李密也绝不会放弃。于是他一边招收有能力的豪杰为其所用，一边收买翟让身边的心腹向其鼓吹李密的能力，让翟让越发信任李密。经过多番的谋划，李密终于成为翟让的“亲密战友”，其说话的分量也大大增强。这次李密再也没有像一开始那样企图一蹴而就，用一些大而无当的话忽悠翟让，而是提出了一个在战略上可以说是高瞻远瞩的谋划，那就是攻打荥阳。
荥阳素有“东都襟带，三秦咽喉”之称，所谓“群峰峙其南，邙岭横其北，东拥京襄城，西跨虎牢关”，历来为兵家必争之地。且北据鸿沟荥口，为隋代水运机枢，四通八达，经济繁荣，自汉以降即为“天下名都”。对于瓦岗军来说荥阳除了地理位置非常重要之外更重要的是能解决他们的吃饭问题。由于隋炀帝的暴政，无数农民无法正常生活而流离失所，带来的后果便是大量的田地荒芜，直接导致了粮荒。对瓦岗军来说没有大量的粮食就养不起太多的职业精兵，光靠劫掠那都是一锤子买卖，根本无法持久，因此要真正地争霸天下就必须走一条可持续发展的道路。隋朝在隋文帝时期开始了一种粮仓制度，建立了很多大粮仓，这些粮仓里面储存的粮食之多号称可以供政府五六十年的用度。而荥阳西南就有号称天下第一粮仓的洛口仓，只要打下洛口仓，那么无疑便有了争霸天下的资本。而要打洛口仓就必然要先占据荥阳，因此李密提出了打下荥阳之后整军经武积蓄实力再选择有利时机争夺天下。
经受不住李密的忽悠，翟让终于决定搏一把，于是瓦岗军兵发荥阳并于大业十二年（公元616年）十月，攻破金堤关(今河南荥阳东北)，拿下了荥阳诸县。这样一来又惹出了身为讨捕大使张须陀，瓦岗军已经在之前吃了他不少的亏，翟让的勇气也仅仅维持至见到张须陀的那一刻。瓦岗军对张须陀的畏惧终于战胜了对城内物资财宝的渴望，只略作攻击便立刻下令撤退，而张须陀自然不会放弃如此大好机会，穷追十余里。张须陀与翟让前后三十余战，对其可谓是知根知底，对于张须陀而言，和翟让打成这样完全合情合理，一点不正常都没有，可是张须陀却不知道这次翟让的背后还有一个李密，还是按照老一套来，这一点最终使张须陀付出了生命的代价。
就在翟让领兵前行的时候，李密却率领了本部千余人埋伏在大海寺北林间。后来在张须陀追击十余里队形不整人困马乏的时候伏兵突发，将张须陀所在的中军截断，导致隋军发生混乱。这时候跑在前面瓦岗军一看有便宜好捡又返身杀回，前后夹攻之下，张须陀终于兵败。张须陀人生的最后一刻非常耐人寻味，就在李密发动伏兵之时张须陀在第一时间便杀出了包围圈，可是左右部下却没能都突围出来，张须陀又亲自杀入包围圈进行营救，进出数次却依然回天乏术，在军队最终溃败后下马英勇地战斗至死，享年五十二。他战死后部下“尽夜号哭，数日不止。”可见其得军心之处，他的残部撤退至虎牢关，受新任的河南道讨捕大使裴仁基统属。张须陀的战死对朝廷在河南的统治打击非常之巨大，号称河南郡县为之丧气。大隋朝随着这位可敬的救火队员的离去就仿佛被抽调了最后一根梁柱，整个大厦的倒塌不过是时间上的问题了。
事实上整个大海寺战役李密玩了一招漂亮的斩首行动，但是战后的隋残军依然拥有较强的实力，张须陀手下大将如秦琼、罗士信都没事，就连张须陀如果自己想走其实也能走得掉，由此可见农民组成的瓦岗军在面对全副武装的朝廷正规野战军的时候依然非常虚弱，因此翟让打完这仗之后便打起了退堂鼓。他在荥阳搜刮了一番收获不少，便想回到瓦岗寨作山大王去。不过在此之前翟让正式承认了李密在瓦岗寨的半独立身份，同意李密开府建牙，成立了薄山公营。这样一来与其说李密是瓦岗寨的一员还不如说是翟让的合伙人，只不过此时翟让所占的“股份”还是远大于李密。由于出身不同，所经历的事情，眼光等各方面相差甚远，李密与翟让之间不可避免地会产生矛盾，因此他们各自统属的部属之间摩擦也日益增多，很多翟让的部属不把李密放在眼里，进而欺凌李密的部属。
而李密毕竟是关陇军事贵族的一员，军事素养不是翟让这种二把刀能比的，因此李密的部属因为李密的约束而尽力克制，不去报复。此时翟让要走，对李密来说有利有弊。好处就是翟让回瓦岗的话，李密的势力便可以在荥阳不受牵制地发展而不必顾忌翟让系统的掣肘。弊端则是翟让的离开会大大地削弱李密攻略洛口仓的力量。荥阳就在洛阳附近，所谓合则力强分则力弱，李密这点人马便显得实力不够。但是翟让要走李密也没法子强留，于是翟让带着攻略荥阳后获得的绝大部分金银珠宝、粮草辎重向东回瓦岗，李密则向西继续攻略，双方各自分手。不过李密毕竟是一个很有本事的人，虽然实力大减，但是依然利用张须陀被杀让周边震恐的有利局势兵不血刃地说得好几座城池投降，获得了大量地物资，实力大为扩充。翟让知道形势其实一片大好之后后悔不已，于是又领军来与李密汇合，想再分一杯羹。
李密看到翟让来了之后也挺高兴，就对翟让说：“现在洛阳空虚，留守的越王年纪太小，没啥号召力，底下的官员也都是庸人，您要是能听我的，平定天下指日可待！”老实说在隋末的名人当中，最像唐僧的就是这位李密，见了人就鼓动他去争夺天下，估计当时翟让耳朵都能听出老茧来。之后李密又派人去洛阳侦察，谁知道被洛阳留守发现了李密的意图，于是开始加强防御力量，并且派人去江都向杨广报信。李密一看计划败露，只能迅速出击，于是又对翟让开始了忽悠大法，说：“如今势在必行，兵贵神速，由将军您率军出发，打他一个措手不及。然后用洛口仓的粮食招募百万雄师，防御随之而来的官军讨伐，最后天下布武，夺取社稷指日可待！”翟让是个小富则安的人，哪有什么夺取天下的雄心壮志，但是跟着李密有肉吃，从以前的经验看每次听了李密的话最后的好处能捞不少，当然让他当先锋作炮灰肯定不行。因此一看李密又开始滔滔不绝地忽悠他，他马上说：“唉呀，您这个方略只有大英雄才能干，我这样哪里行？您是英雄，我听您的，还是您当先锋，我就作个殿后的吧。”算是在口头上承认了李密的领导。
翟让这个人从根本上来说其实就是一个小市民，眼睛也就看着自己的一亩三分地，并没有什么伟大的理想，因此李密强势介入瓦岗寨之后领导权便一直在潜移默化地向李密这边倾斜，直到翟让口头上承认了李密的领导权为止，李密在名义上总算成为了瓦岗起义军的盟主。翟让心里打什么算盘李密也挺清楚，不过洛口仓李密也是势在必得，因此也没有在出兵的先后顺序上跟翟让多争，两家合兵七千顺利地攻下了洛口仓，获仓米两千余万石。打下洛口仓可以说是瓦岗军发展历史上的一个重要的转折，利用洛口仓的粮食李密不但大大地扩充了队伍，而且开仓放粮使大量的流民口耳相传李密的恩德，让李密的名声迅速传遍了大江南北，瓦岗军终于拿到了争霸天下的那张入场券。
拿下了洛口仓对于隋王朝是一个巨大的打击，因此镇守洛阳的越王杨侗立刻派出了大军清剿，主力是虎贲郎将刘长恭、光禄少卿房崱的二万五千兵马，另外还有河南讨捕使裴仁基率领的张须陀余部从汜水的西面出兵夹击瓦岗军。此时洛阳的官僚们还不知道瓦岗军的真实实力，以为不过是一群饥民，都是乌合之众，于是国子、太学、四门三馆的学士以及贵胄勋戚都来从军，想要赚取军功，因此讨伐大军装备非常精良，士气也比较高昂。刘长恭等人率兵在前，让河南讨捕大使裴仁基军率所部自汜水进入兴洛仑以掩杀李密军后部，约好十一日在兴洛仓城南面会合。这个战略意图被李密全部侦查得知。
这个刘长恭是个完全不懂兵法的蠢蛋，他为了抢功，完全无视瓦岗军的战斗力，在己方士兵们还没吃早饭的情况下就催促他们强渡洛水，在石子河西列下南北十余里的大阵来攻打瓦岗军。而李密、翟让则挑选骁勇强壮之士分作十队，令其中的四队埋伏在横岭下等待裴仁基，其余的六队在石子河以东列阵。刘长恭等人本来就很轻视瓦岗军，现在看面前的瓦岗军人数很少，更是骄横。两军开打后，翟让率兵抢攻，但隋军战斗力不俗，一番苦斗之下翟让不是对手，败退下来。李密看到有机可乘即与单雄信率所部横冲隋军，隋兵到现在都没有吃过饭，又苦斗翟让，因此饥饿疲惫，被打得大败。刘长恭等人脱掉衣服潜逃才得以幸免逃回东都，隋军士卒死伤过半。隋军的辎重、器械、铠甲全部被缴获。而裴仁基那边则来晚了，等他们到了之后发现刘长恭早已败退，于是连打都没敢打直接又撤了回去。瓦岗军此战可以说仅用了六成的兵力就击溃了朝廷的精锐，因此威名大振。
大胜利之后瓦岗寨的地位今非昔比，自然而然就有一个内部整合的过程，经过几场大战，李密实力大涨，在瓦岗寨内部已经属于决定性的力量，因此面对这个局面翟让也想得挺开，反正之前已经奉李密为主，现在干脆就把这个名份确定以后公开。而李密也不推辞，干脆直接就称帝了。当然当皇帝也有一定的步骤，饭要一口口地吃，贵族门阀和暴发户自然不能一样。用通俗一点得话来说就是“既当婊子又想立牌坊”，因此历史上搞篡位的往往喜欢把自己的行为美化成“禅让”，就是想把自己实际上是篡乱的行为披上合法的外衣。于是李密就搞了两种制度，他名义上并不称帝，仅自封为魏公，建立了一个大元帅府的机构统领下属。但是又设坛即位并且更改年号，封翟让上柱国、司徒、东郡公，任命单雄信为左武候大将军，徐世为右武候大将军，各自统领自己的部队。房彦藻被任命为元帅左长史，东郡人邴元真为右长史，杨德方为左司马，郑德韬为右司马，祖君彦为记室，其余的人各自被封爵拜官。这一系列的步骤都是向外界表明自己其实已经抛开隋朝自成一体，又相当于称帝。
