为了避免这样的情况出现，窦建德很聪明地选择了高士达这边。
以窦建德的威望，东海公高士达对他的投奔自然是非常高兴的，当时就封了他“司兵”（军队指挥）这样的实权职位，可见高士达对窦建德的看重。之后孙安祖与张金称火并一场，结果被杀，其部数千人尽数逃奔窦建德。从此，势力渐盛，壮大到万人。因为窦建德做事非常认真，又能跟士兵同甘共苦，所以窦建德的手下的兵士都愿意为他效死，这样高士达的人马在窦建德的指挥之下战斗力提升得很快。当时山东河北地区“盗贼”蜂起，隋地方政府在与这些“盗贼”作战之时率吃败仗，因此他们的势力发展得非常快。其中实力比较大的就有邹平的知世郎王薄、平原豆子瓯的刘霸道、河曲的张金称等等，这些人的势力小则几万，多则十数万，给隋帝国在山东河北的统治带来了极大的破坏。
“盗贼”方面的势力大了自然就会遭到朝廷的大举围剿，由于两次征高丽涿郡都是出兵的大本营，因此涿郡的兵马也最为精锐，于是以涿郡的兵马为主力，在大业十二年开始了一场大规模的清剿行动。这次军事行动分别是由两个人指挥，一个是太仆卿杨义臣，他率辽东还军数万进攻张金称，一个是涿郡通守郭绚，他率领万余兵马征讨高士达。在没有遇到真正精锐的政府军之前高士达小日子过得挺滋润，可是郭绚一来他马上就感到了压力，由于司兵这个职位窦建德做得很好，高士达感觉自己的才略比不上窦建德，于是又封了窦建德为“军司马”，把所有的部队都交给了窦建德指挥。既然高士达给了窦建德这么大的权力，窦建德自然想要让别人看看他也不是浪得虚名，因此就想了一招苦肉计。他首先请高士达负责看守辎重，他自率精兵七千迎击。然后就四处散播与高士达有嫌隙，因此叛逃的谣言。而高士达这边大张旗鼓地宣传窦建德叛变的消息，并且为了取信他人还将一个虏获的妇人冒充窦建德的老婆给杀了。当这种消息传到郭绚耳朵中之后窦建德就向他送上了降书，并且还要做先锋击破高士达立功赎罪。
可惜这个时代还没有《三国演义》这样的小说，否则郭绚就会发现这一幕场景与赤壁大战之时周瑜跟黄盖之间的苦肉计多么地相似。窦建德的计划十分完美，郭绚很快就中了圈套。窦建德于是在长河（今山东德州东）设下埋伏，等郭绚一来伏兵突发，大败郭绚，击斩数千人，缴获战马数千匹，郭绚仅仅与少数骑兵逃走。窦建德得势不饶人，急行军追击，终于在平原（治安德，今山东陵县）斩杀郭绚，将首级献于高士达。此战后窦建德可以说是威震山东，风头一时无两。可是好景不长，郭绚虽然失败了，但是还有一个更难对付的杨义臣。他在成功率军击杀张金称之后立马又对高士达发动了一场大规模地军事行动。杨义臣此人非常善于谋略，用兵诡诈狠辣。
他对张金称的时候手中都是辽东作战返回的强兵，但却并不主动出击，而是深沟高垒摆出一副防守的架势。当张金称每天率兵来挑战的时候杨义臣总是穿戴整齐率领士兵与张金称约好正面野战，但是每次都放他鸽子让他白等一天。这样天天玩，持续了一个月，把张金称磨得脾气全无。一个月后的一天张金称骂战之后回营，他以为还跟以前一样杨义臣不会出营挑战，因此营地也未作防守。结果杨义臣挑选精锐骑兵两千人，乘夜从馆陶渡河，趁张金称率兵离开营地，即进入张的营地袭击他的辎重。张金称听到这个消息，率兵回救，被杨义臣从后面袭击，张金称大败，仅与身边的人逃到清河郡东。后来被杨善会抓住，当时官吏在闹市中立一根木柱，将张金称的头悬吊起来，展开他的手足，让与他有仇的人割食其肉。张金称也是条硬汉，受此酷刑之时居然放声高歌，直到气绝。
由于窦建德名气大，张金称垮了之后他的残部全都投奔了窦建德。从他们的口中窦建德了解到了杨义臣是个什么人物，不禁倒吸一口冷气，这人显然不是现在的高士达军能够对付的。于是窦建德马上进谏高士达，希望暂避锋芒，全军躲入高鸡泊跟杨义臣打游击，等隋军疲惫之后再伺机打击。可是高士达因为击破郭绚而志得意满，开始犯左倾盲动主义的错误，拒不听取窦建德的正确意见，反而留窦建德守营，亲自率精兵要跟杨义臣正面作战。当然这些表面看上去仅仅是高士达的战略错误，但是如果按照中国历史一直以来的政治斗争论来看，恐怕高士达坚持出击的原因是因为窦建德开始功高震主了。不论是吸引人才还是作战，窦建德的表现都远远比高士达要显眼得多，如果继续下去，主从之势必然会颠倒。此时杨义臣的出现却给了高士达一个证明自己的机会，如果将连窦建德都畏惧的杨义臣击败，那么军中的重心又将回到高士达这边，从而避免了内讧的风险。也因此高士达是憋着一股劲，一定要击败杨义臣，因此初次交锋便猛冲猛打，让杨义臣吃了点小亏。这下子老高可抖起来了，大摆筵席庆祝胜利。
窦建德听说高士达这么干，当时就对手下说：“东海公还没完全打败敌人就如此自大，祸事不远了。如果隋兵乘胜追杀，我们这里独木难支。”因此窦建德留下老弱守营，自己率领精锐把守险要。果如窦建德所料，高士达乐极生悲。高士达先前的胜利不过是仗着兵多“乱拳打死老师傅”而已，杨义臣很快就摸清楚了高士达的虚实，五天后再次决战，隋军在其指挥下势如破竹，阵斩高士达。隋军乘胜追击，尾随败兵击破窦建德留守的大营。窦建德一看大势已去，顽抗肯定是死定了，于是率领百骑逃走。
杨义臣看高士达已死，觉得窦建德不过是个小虾米，也就没有穷追，窦建德因此逃出生天。不得不说窦建德的运气非常好，此战杨义臣没有抓住窦建德，之后也就再没这样的机会了。他破敌之后向隋炀帝杨广汇报战果，却被奸臣虞世基诬陷他可能拥兵自重。结果糊涂的杨广将杨义臣召回朝廷，将其的部队全部解散，可以说帮助窦建德除掉了一个死敌。这个虞世基是著名书法家虞世南的哥哥，但却是隋末的一个大奸臣，他知道杨广好大喜功，最不喜欢听有人造反，因此就专门瞒报各地造反的消息，就算最后被杨广知道了消息他也要上谗言让杨广不相信，甚至最后连江都兵变的消息也给瞒下。结果此人被兵变成功的宇文化及给诛杀，也算是因果报应吧。
要说窦建德毕竟是枭雄，就算是此时一败涂地也没有像丧家之犬一样只会逃跑，他逃到饶阳县之时便乘饶阳县没有防备，攻陷饶阳，又收集了兵卒三千人。此后他返回平原，召集高士达所部的散兵，又将高部战死者安葬，大张旗鼓地为高士达发丧。窦建德在高士达军中本来就是二号人物，此时败而复振，不论从什么角度看他都是高部当然的继承人。高士达的死最终成就了窦建德，让他避免了出现李密那样内部火并的情况。于是他终于自立山头，自称将军。此时周边起义军势力纷纷被官军所击破，他们的残部亦纷纷投奔窦建德，使得窦建德势力越来越大。此后四处攻略，摧城拔寨自不用多说，窦建德领导起义军四面发展的时候显示出了一个领导人优秀的素质。起初，绝大部分的农民起义军见到隋朝的官员及士人一律杀掉，这固然是发自内心的仇恨导致的，但是这种行为对于起义军的危害非常之大，往往使得起义军最后步步维艰以至于最后完全垮掉。而窦建德就非常注意争取这些官吏，并不随便杀人。所以隋郡县的许多官员都主动归附，自然很多城池也都是不攻自破。窦建德军很快发展到十余万人。
大业十三年(公元617年)正月，窦建德在河间郡乐寿(今河北献县)筑坛，自立为长乐王，年号丁丑，开始设置百官，分治郡县。之后攻占信都(今河北冀县)、清河诸郡，并俘斩隋将杨善会于清河。七月，隋炀帝为解瓦岗军急攻东都之围，命左御卫大将军涿郡留守薛世雄领三万幽、蓟精兵南下，会同王世充等驰援洛阳，顺路剪灭沿途盗匪。窦建德的地盘恰恰就在薛世雄的必经之路上，因此也是属于需要剿灭的对象。可是此时窦建德军在乐寿周围各县分散收麦，窦建德本人在武强(今河北武强西南)征粮，身边兵马不多。并且薛世雄率领得都是辽东边兵，战斗力非常高，硬拼肯定不是办法。于是他将大部队撤出诸县城，扬言还回豆子航，以麻痹敌人。薛世雄以为窦建德真的怕了，于是放松了警惕和戒备。可是他不知道的是窦建德并未随大部队南撤，却率领千余精锐埋伏在距薛世雄营寨一百四十里的地方，筹划一场以少胜多的夜袭。当时窦建德率敢死队二百八十人先行，其余部队尾随，星夜奔袭世雄。窦建德出发前跟部下做了一个很搞笑的约定，说如果到达之时天没亮那就干他一把，如果天亮了那就集体投降。
一夜急行军后，距离薛世雄大本营七里井（今河北河间南）还有不到二里时，竟然就要天亮了。窦建德非常懊丧，只得准备投降。就在这时，也许是老天都要帮窦建德，忽然起了大雾，咫尺之间不见人影，窦建德大叫天助我也，窦部也士气大振，于是大家发动突袭，杀将过去。正好薛世雄自恃强大，十分轻敌，扎营居然不设防备，被窦建德率军一阵袭击，薛部朦胧中不知敌人数量，军无斗志，三万大军当场溃败。一个军队一旦炸营，就连神仙来也没法子阻止，薛世雄无法可想，只得与左右数十骑亲兵落荒而逃。薛世雄逃回涿郡后，又羞又怒，不久就发病去世了。河间七里井之战，对隋末的历史的走向有重大影响，这一战成就了两个隋末强人。第一位受益者当然是窦建德，窦因此战而声望倍增，一跃成为河北最强大的起义军。第二位受益者是正在向洛阳进军的王世充，薛世雄死后，杨广任命王世充接替薛世雄，担任洛阳方面的总指挥，这是王世充第一次作为方面军司令，而手下正集合了隋朝各地的精兵，为王世充日后称霸河南准备了实力。虽然称王了，但是窦建德本人依然很是低调，时不时地还上表忽悠下李密，让他称帝，捧得李密很是开心。不过李密一旦动真格的让他去瓦岗，他便当起了缩头乌龟，死活就是不去。
