十六岁的李世民因用虚张声势的奇谋化解了隋炀帝的雁门之围而声震天下，也就这个时候，天下的形势发生了巨大的变化。隋朝的第二位皇帝隋炀帝对自己的帝国有着强烈的经营的决心，他创造了别人难以创造的丰功伟绩，比如开通大运河、三征高句丽。但是，隋炀帝不关心人民疾苦，视百姓如牛马，以致于用民过重、急功近利，导致天下人心惶惶，时局不稳。隋炀帝开凿京杭大运河，耗费大量人力财力，每次一召一百万人民，男的没了召女的，导致人人自危、民心惶惶；后来他又不惜花费人力财力，造大船南游；三征高句丽不仅消耗了大量自己的主力军队，而且给人民带来了沉重的负担。一系列开疆拓土的战争，也同样消耗了大量的人力物力，并陷入战争泥潭。隋炀帝的一系列政策，致使长久以来对其不满的士兵将领发动兵变，人民也为逃避沉重的负担纷纷起义造反。当时起义已经发展到整个黄河甚至长江流域，许多武装地主也乘机加入了讨伐隋炀帝的大军，天下开始大乱。
隋大业七年（611），邹平人王薄在长白山首先率众起义，之后两三年间，起义席卷全国，农民军多达百余支，人数百万众。大业九年（613），杨素的儿子杨玄感趁隋炀帝出兵高句丽而公然起兵，李密自长安应召到杨玄感军中，为其出谋划策。一番商议后，杨玄感以“为天下解倒悬之急”为号召，从者如流，余杭民众纷纷举兵响应。得知这个消息，隋炀帝赶紧班师回朝，命李渊为弘化郡的留守，来抵御杨玄感，此时关右各个郡守的兵马都由李渊掌管。
隋炀帝虽然把部分军权交给李渊，但是，隋炀帝对李渊还是存有戒心。他试着找借口召李渊入宫，恰巧李渊生病了，没有入朝拜见。隋炀帝就找来在宫中当差的李渊的外甥王氏问原因，当知道李渊由于生病不能入朝后，猜忌心很重的隋炀帝非常生气地说：“李渊得了什么病，居然不能来见朕，是病死了吗？”这个消息传到李渊的耳中，他非常害怕，赶紧贿赂隋炀帝身边的亲信，然后常常故意喝得酩酊大醉让别人误以为他没有异心，这样才逃过一劫。
大业十一年（615），李渊被拜为山西河东慰抚大使，去讨伐毋端儿率领的河津农民起义。李渊率部在霍州与毋端儿激战，杀敌一万余人，俘获六万多人。匪首毋端儿战死，仅有四千残匪逃亡，河东诸州县都已尽归朝廷。面对朝廷的镇压，毋端儿虽然率领起义军英勇抵抗，终因寡不敌众，起义烈火被扑灭，自己也身中七十余箭而亡。
大业十二年（616），隋炀帝杨广坐龙船南下到江都游玩，又任命李渊为太原留守，李世民等人跟随着父亲一起来到太原。刚到太原，号称拥兵十万的甄翟儿率领义军攻打太原，并杀死隋将潘长文。李渊得知这个消息，亲自率兵出击，和甄翟儿在永安雀鼠谷展开了激烈的厮杀。由于兵力薄弱，李渊被甄翟儿大军包围了圈着打，尽管他们多次尝试突围，但均以失败告终，李渊和他带领的兵士们性命垂危。正是在这个千钧一发的时刻，李世民亲自率领铁骑数十，奋勇杀入重围，李渊和士兵也拼命杀出包围圈，这双向的奋勇厮杀，让敌人非常忌惮，不敢围攻。这个时候，另一支部队也杀来，与李渊父子的部队合二为一，里应外合，迫使甄翟儿不敢恋战，率军狼狈逃窜，李渊的军队则反败为胜。不到二十岁的李世民就这样从数万敌军中救出了自己的父亲。
数次平定各种起义大军，使得隋炀帝渐渐地开始倚重李氏父子，而李世民也在大大小小的战争中锻炼了自己的军事才能。李世民原本就饱读兵书，精于骑射，经过战争的洗礼，增加了丰富的实战经验，很快就成为了李渊依靠的最重要的军事将领。每当有重大的军事行动，父亲总是把这个机会给李世民。
然而，李氏父子平定的叛乱越多，就发现越多的农民起来反抗。到大业十二年，先后在全国各地兴起的大小起义军队伍不下百余支，义众达数百万。起义军攻陷许多郡县，消灭大量隋兵。隋炀帝调杨义臣率辽东还兵镇压河北起义军，自率禁军到江都，镇压南下江淮的起义军。在和隋军主力作战的过程中，起义军败而复聚，由分散走向集中，逐步形成了瓦岗军、河北夏军和江淮吴军三支主力。而且这些义军大多得到民间老百姓的支持，瓦岗军开仓放粮的义举，更是赢得了无数老百姓的赞颂。而与越来越多的起义相比，更让李氏父子害怕的是隋炀帝的多疑和猜忌。隋炀帝始终不放心李氏父子，甚至派人监视他们。这样也就致使年轻的李世民开始有了自己的想法。
