唐高祖下令征召窦氏旧将，范愿、董康买、曹湛、高雅贤等均在其名单中，听到消息后，他们就聚在一起商量。
范愿说：“王世充降唐，大臣段达、单雄信等，均被处死，我等若到长安，一定和他们是相同的命运。我们十几年来，身经百战，九死一生，今不如再次举事。当年夏王提到淮阳王，以宾客之礼相待，并放归于唐，唐捉到夏王，立即杀死。我们都受夏王厚恩，如不替他报仇，既对不起夏王，也无颜见天下人，岂不惭愧吗？”
高雅贤接着说：“我本想让家属先躲一躲，偏偏这班狐朋狗党先听到风声，把我家眷抓去几人，幸亏我不在家，才脱了身，现在要我进去，只有死路一条，反正都是死，何不另谋他路。”
董康买、曹湛等表示赞成。接着大家推选主帅，讨论了好久都没有结果，于是用卜卦来确定主帅，卜封者认为，应推姓刘的为主帅。
高雅贤说：“漳南刘雅，是夏王旧将，我们去请他。”
一同到刘雅家，刘雅问有何事，大家把计划告诉他。刘雅摇头说：“天下刚刚安定，我只愿耕田种桑，做个老百姓算了，不愿再谈打仗之事：”
高雅贤很不高兴地说：“是不愿意出去了？”
刘雅说：“这就由我自便。”
高雅贤紧逼说：“你不愿去，是不顾老朋友的情谊，我们对你也就不讲情面了。”
刘雅站起来说：“你们与我无情也无妨。”
这时，范愿竟拔出刀来乱砍，大家一起动手，砍死了刘雅。
范愿又提议：“前汉东公刘黑闼，勇略过人，性格善良、仁慈。我曾听说，刘氏应当称王，要收夏王的部众而举大事，非此人不可。”
刘黑闼小时与窦建德为友，隋末参加瓦岗军。武德元年瓦岗军失败，被王世充俘虏，不久率部逃到河北跟随窦建德。因刘黑闼处事果断、骁勇多谋，极受窦建德器重，被封为东汉公。窦建德失败以后，他回到漳南故里隐居，一边种菜，一边观察局势，等待时机。正好范愿、董康买、曹湛以及高雅贤等一起来找他。刘黑闼正在园中锄菜，看到这些人来，请入房中，问明来意，范愿谈了自己的计划，刘黑闼稍微推辞就答应了。
经过一番精心部署，刘黑闼于七月十九日袭击并占领漳南县，宣布起兵反唐，并筑坛祭奠窦建德，向窦建德的亡灵昭告他们起兵的意图。他们利用窦建德的名字，很快就聚众百人，不几天就聚得数千人。刘黑闼的行动得到河北相当多人拥护，实力发展很快，这些人都是当过兵的，打起仗来很熟练，一些州县相继陷落，官吏不断遭到杀害。反唐的火焰大有燎原之势。
刘黑闼自称大将军，向东进军。八月十二日，刘黑闼攻陷霸县，唐魏州刺史权威、贝州刺史戴元祥和他交战，均失败身亡。刘黑闼得到二人的部众及全都武器装备，拥有2000人马。
八月二十二日，刘黑闼攻陷历亭县，杀害了唐屯卫将军王行敏。曾在窦建德时期当过深州刺史的崔元逊及其几十名同党，埋伏在盖满稻草的车上，直接冲入州府衙门，杀了唐任命的深州刺史，割下首级送给刘黑闼。
十月六日，刘黑闼攻陷瀛州，杀死唐瀛州刺史卢士睿。观州老百姓捉住刺史雷德备，以城归顺刘黑闼。毛州百姓董灯明等人暴动，杀死刺史赵元恺响应刘黑闼。
十一月十九日，刘黑闼攻陷定州，捉住唐总管李玄通。刘黑闼爱惜他的才能，想任命他为大将，李玄通不从命。他原来的部下送给他酒肉，李玄通说：“各位可怜我身受囚禁之辱，幸以酒肉来开导安慰我，我要与各位一醉方休。”酒喝到兴头上，李玄通对看守说：“我能舞剑，希望把刀借我用一下。”李玄通舞完后举刀剖腹而死。二十七日，杞州人周文举杀死刺史王文矩，响应刘黑闼。
饶阳崔元逊袭占深州，杀刺史，响应刘黑闼；兖州徐圆朗已经降唐封鲁国公，现又和刘黑闼联合，自称鲁王。各州豪强，纷纷起事，刘黑闼势力逐渐强大，淮安王李神通等合并出战，皆被打败。刘黑闼接着攻陷瀛州，杀刺史，再攻陷定州，总官自杀，陷冀州，杀刺史。
赵、魏境内，所有窦氏故将争杀唐吏。十二月三日，刘黑闼攻陷冀州，杀唐剌史麴棱。黎州总管李世勋驻崇城，听刘黑闼来攻，自以为抵挡不住，急忙退往洛州，路上被追杀，5000人一个不剩，只身逃走。不到半年，刘黑闼收复了窦建德故地。
武德五年（公元622年）正月，刘黑闼自称汉东王，改年号为天造，设都城于洺州。窦建德时期的文武官员全部恢复了原来的职位。刘黑闼的法令行政，全部效法窦建德。
武德五年正月八日，李渊非常着急，只好再派秦王李世民、齐王李元吉出兵山东，讨伐刘黑闼。开始了在唐初统一战争中指挥的最后一个战役。
秦王李世民先夺回相州（今河南安阳）。面对唐军的强大攻势，刘黑闼退守洛州。十四日，李世民再进军肥乡，在洺水南岸扎下营寨，步步紧逼，列阵于洺水附近，与刘黑闼军营相对而扎。
唐幽州总管李艺（原名罗艺。隋末任虎贲郎将。武德元年归唐后，赐姓李，封燕郡王）率所部数万人来和李世民会合。刘黑闼留范愿守洺州，自带精兵与李艺对阵。李世民派程名振连夜运六十面大鼓，在城西二里堤上，一齐擂响，鼓声大振，响彻云天，连城中都摇动起来。
范愿大惊，派人飞报刘黑闼，刘黑闼迅速返回城，只得派其弟刘十善、行台张君立，率兵万人，到了徐河。正月三十日，双方在徐河（今河北徐水县）交战，结果刘十善、张君立大败，损失8000人。
同日，沼水人李去惑开城降于李世民军，李世民派王君廓率1500名骑兵入城，和李去惑共守洺水。
二月，刘黑闼回师洺水，行至列人县（今河北肥乡东北），遭到秦叔宝的截击，刘黑闼失利。十七日，李世民收复邢州（今河北邢台），李艺则夺占定、栾、廉、赵四州，抓获刘黑闼的尚书刘希道，后与秦王会师于洺州。
刘黑闼进攻洺水，因城在水上，不便进攻，就从东北两隅筑两处通道，以便靠近城墙。李世民带兵前去支援，三次均被击回，于是召集诸将商量。
李世民说：“通道将要筑成，敌兵如到城下，城肯定不能守了，不如叫他们突围出来，再商量破敌办法。”话未说完，罗士信自请战：“我愿去守城。”
李世民说：“城已垂危，恐不能守。”
罗士信说：“城存吾存，城亡吾亡。”
李世民登上城南高冢，举旗招王君廓回，派罗士信接应。罗士信率二百骑前往，君廓杀出，罗士信驰入，刘黑闼又把城围住，接连八昼夜，罗士信衣不解甲，目不交睫，住城上督守。
忽然天降大雪。满城皆白，目为之眩。刘黑闼乘机攻入。罗士信挺着长矛，刺杀头目多人，身受重伤，飞马奔回，因大雪弥漫，看不清路，陷入泥淖中被俘，英勇不屈而死。
三月，李世民与李艺于洺水城南扎营，以部分兵力屯于沼水之北。刘黑闼多次挑战，李世民坚壁不战，出奇兵切断了刘黑闼的运粮道。
秦王李世民与刘黑闼相持其间，双方都采取袭扰的策略打击对方：
一次，刘黑闼阵中的高雅贤在营中喝酒，李世民派李世勣出兵袭击，杀人高雅贤营中，高雅贤已经酣醉，上马出战，被李世勣部将刺中，坠落马下，虽被部下救回，未回到营时就死了。
刘黑闼从冀、贝、沧、瀛州运粮，水陆并用，唐将程名振率兵截击，弄沉了运输船，烧毁了运粮车。同样，刘黑闼也暗中偷袭李世勣军营，李世民闻讯，立即带兵突袭刘黑闼的背后，结果被刘黑闼包围。尉迟敬德率壮士冲入包围圈，李世民才得以脱险。
双方相持六十多天。李世民知道刘黑闼粮尽必来决战，便秘密派人堵住洛水上游，令其监守，在决战时放水。刘黑闼渡水南来，逼进唐营。李世民统领精骑，破其前阵，又捣入后队。刘黑闼督兵死战，从中午到天黑，斗了数十回合，渐渐支持不住，刘黑闼带着一部分将领悄悄逃走，其余的还在格斗，不防上游放水，河水漫过两岸，刘黑闼的兵被漂去几千人，留下的一半被唐兵杀尽。
刘黑闼过了洺水，手下只有两百骑，只好逃往突厥，李世民赶走刘黑闼，再一次平定山东。
六月一日，刘黑闼在突厥的支持下，侵犯山东（今太行山以东）。
六月十七日，刘黑闼侵犯定州。他的旧部属曹湛、董康买重新召集兵马响应。
九月，刘黑闼再次攻陷瀛州，杀死刺史马匡武。盐州人马君德反叛，以盐州城归附刘黑闼。河北一带的局势再度动荡。
十月四日，在秦王李世民已于七月奉诏回长安的情况下，唐高祖任命齐王李元吉为领军大将军、并州大总管，率军进击刘黑闼军。
五日，贝州（今河北武城）刺史许善护与刘黑闼的弟弟刘十善战于俞县，许善护全军覆没。六日，唐右武侯将军桑显和于宴城（今河北束鹿东北旧城），将黑闼军击败，而此时唐观州刺史刘会却举城降于刘黑闼的部队。
十七日，唐淮阳王李道玄率军3万，与黑闼军战于下博（今河北深县东南）。由于副将史万宝与李道玄不和，史万宝率主力在后，按兵不动，结果，李道玄败亡。黑闼军消灭李道玄后，又击败了史万宝。
李道玄死时才19岁，李世民深为痛惜地说：“道玄常跟随我征伐，见我深入敌阵，心中羡慕想要模仿，才会这样。”李道玄的败死，使山东唐军极为震骇，唐洺州总管庐江王李瑗弃城西逃，其余州县皆叛离唐军，归附刘黑闼。十日之内，刘黑闼完全收复了旧地。
二十七日，刘黑闼进入洺州。十一月三日，唐沧州刺史程大罗为刘黑闼所迫，弃城逃走。齐王李元吉畏惧刘黑闼兵强，不敢进兵。
