武德九年（公元626年），突厥大兵开始骚扰河套地区，李建成觉得行动的时机已经到来，决定对李世民下手了，李世民被逼无奈只好采取行动先发制人，发动了玄武门兵变，一举灭掉处于优势地位的太子建成。
武德九年夏天，突厥数万军队进入黄河南岸。按过去的惯例，李渊会派秦王李世民率军抵御。但是太子建成为了抑制秦王世民的势力，所以向高祖建议由齐王元吉统率各军北上，让齐王也历练一下，高祖觉得这的确是锻炼李元吉的一个好机会，就答应了。
李元吉出发之前，与太子李建成秘密商议，他们对高祖说秦王府中的尉迟敬德、程知节、段志玄和秦叔宝都是有名的大将，有他们同去征讨突厥，一定能凯旋而归，秦王府中能征惯战的精锐士卒很多，希望能补充到军队中。李渊觉得这次元吉出征的确是势孤力单，有几个久经沙场的名将保护，能比较安心。可是李建成和李元吉却不这样想，他们计划把秦王府的精兵良将控制在自己手中，好为下一步谋杀秦王做准备。
太子李建成与齐王李元吉密谋此事时说：“既得秦王精兵，统率数万之众，吾与秦王至昆明池，于彼宴别，令壮士拉之幕下，因云暴卒。主上谅无不信。吾当使人进说，令付吾国务。正位之后，以汝为太弟。敬德等既入汝手，宜悉坑之，孰敢不服？”
可是他们的这一计划还未实行，就被太子率更丞王睚得知，王晊是李世民在东宫收买的密探，他立即向李世民告密。他不但收买了王晊，还收买了东宫另一臣属常何（掌东宫宿卫）。他们虽然地位低下，但知道很多秘密，这使李世民得到了两次关键性的支持。
李世民得王晊密报后，立即找长孙无忌、高士廉、尉迟敬德、侯君集等商议对策。长孙无忌等人竭力主张抢先动手，李世民大发感叹说：“骨肉相残，古今大恶。吾诚知祸在朝夕，欲俟其发，然后以义讨之，不亦可乎？”
兄弟相残，对于谁来说，都不是一件好事，更何况在天下人瞩目的皇宫内。但是尉迟敬德对李世民这种被动应付的主张并不赞同。他站起身疾声说：“人情谁不爱其死！今众人以死奉王，乃天授也。祸机垂发，而王犹晏然不以为忧，大王纵自轻，如宗庙社稷何？大王不用敬德之占，敬德将窜身草泽，不能留居大王左右，交手受戮也！”
长孙无忌也说道：“不从敬德之言，事今败矣。敬德等必不为王有，无忌亦当相随而去，不能复事大王矣！”
尉迟敬德接着说：“王今处事有疑，非智也；临难不决，非勇也。且大王素所蓄养勇士八百余人，在外者今已入宫，擐甲执兵，事势已成，大王安得已乎？”
听了众人的言语，李世民终于下定决心，不再犹豫，准备先发制人，抢占有利时机。于是他下令召回被调离秦王府的两位心腹谋士房玄龄、杜如晦进府共同商议大事。房玄龄为了坚定李世民的决心，故意激怒地说：“皇上已经敕令微臣不得再服侍秦王，今日如果私下进见，必受诛戮，实在是不敢从命。”
李世民听了房玄龄这番话后，果然大怒，解下腰间佩刀，交给尉迟敬德说：“玄龄、如晦岂叛我耶？公往观之，若无来心，可断其首以来！”
尉迟敬德知道房、杜只不过是用话激秦王，看他的决心的。所以他立即去见二人说：“大王已经下定了决心，你们应该立即进秦王府，共谋大事。”经过一番讨论，大家认为玄武门是最理想的地方，最后决定在玄武门伏杀李建成和李元吉。
玄武门是长安宫城的北门，是宫廷卫军司令部的所在地，有坚强的工事和雄厚的兵力，谁控制了玄武门便可以控制整个皇宫，甚至控制京师，所以玄武门的地位十分重要。当时负责门卫的将领是常何。据常何墓志铭记载，常何在武德五年底跟随李建成讨平河北，也就是平定刘黑闼第二次起兵。武德七年（公元624年），常何担负玄武门的守卫之事。因为内宫中人多数已被李建成收买，在京师处于劣势的李世民，不得不在玄武门将领身上打主意。为了方便行事，秦王李世民收买了常何，还收买了玄武门的其他一些将领，如敬君弘、吕世衡等。李世民确实是老谋深算，这一颗棋子使他赢得了决定性胜利。
六月三日，李世民把一切都布置好了，便开始实行计划的第二步，密奏李建成与李元吉的罪行，说他们“淫乱”后宫，并且告发他们想谋害自己，就像李世民自己所说：“臣于兄弟无丝毫负，今欲杀臣，似为世充、建德报仇。臣今枉死，永违君亲，魂归地下，实耻见诸贼。”为什么说李建成“似为世充、建德报仇”呢？李世民无非是表白自己只是因平叛之功而被猜忌，这样就可以把相互残杀的责任全部推到李建成与李元吉的身上了。这些只不过是计划中的一部分，无非是想把李建成和李元吉引到玄武门，以便下一步计划的执行。李渊听后，感到特别不解，想第二天问个清楚。这正中李世民的下怀。
六月四日，李渊先召集裴寂、萧瑀、陈叔达等人一起商量，看如何处理此事。三个儿子来到之前，李渊和大臣们一直在太极宫中划船商议，他们以为又是兄弟在闹矛盾，便讨论如何劝解协调。他们当然不会预料到事态的严重性。他们更不会清楚李世民早已经在玄武门布置好人马，常何率领长孙无忌、尉迟敬德、侯君集，张公谨、刘师立，公孙武达、独孤彦云、杜君绰、郑仁泰、李孟尝等10人埋伏在玄武门，正等着斩杀建成与元吉。
唐高祖李渊的爱妃张婕妤一直是支持李建成的，她在玄武门也有眼线。李世民将要采取行动的消息被告诉了张婕妤，张婕妤立刻向李建成报告。李建成得到密报后，马上找李元吉商量对策。李元吉认为：“宜勒宫府兵，托疾不朝，以观形势。”而李建成却认为：“兵备已严，当与弟入参，自问消息。”看来，“兵备已严”是事实，李建成早就对京城的军事力量私自作了准备，而且以为旧属常何在玄武门，不会发生什么问题。所以，李建成没有采取必要的应急措施。李建成过于自信，对属下叛变之事竟然一无所知，就和李元吉一道入朝。行至临湖殿，觉得有点反常，立即掉转马头向东宫奔去。李世民和诸将紧追不舍，李元吉本是一位勇士，想回头把李世民射下马来，但在惊慌之下。没有把弓拉满，射不中李世民。李世民追到近前，一箭射死李建成。尉迟敬德带领70骑奔驰而来，射伤了李元吉，伤势不重，李元吉拼命往武德殿逃，被尉迟敬德赶到射死。
过一会儿，东宫和齐王府的精兵两千人由李建成的僚属冯立、薛万彻、谢叔方率领，结阵猛攻玄武门，与秦王府的将领展开激烈的战斗。由于张公谨闭关拒之，东宫的人攻不进去。玄武门屯营将领敬君弘与吕世衡早已被李世民所收买，这时奋不顾身，打开北门迎战，被东宫的军队包围，大家奋力拼杀，但敌人众多，不能冲出，直至战死。
正当战斗激烈进行的时候，李世民的妻子长孙氏把将士领入宫中亲自给披上铠甲，并问候是否受伤，给受伤的士兵进行包扎伤口，大家对长孙氏非常感激。长孙氏的舅舅高士廉看到敌人非常凶猛，赶快带领吏卒把绑着的囚犯全部释放，并且发给他们兵器和铠甲，和李世民一起进行防守。在秦府僚属和囚犯的全力抗击下，玄武门始终掌握在李世民手里。这使东宫的军队多少有些泄气。
正当东宫的部队不知如何是好的时候，有人忽然提议，既然这里攻不进去，我们就去攻打秦府，杀他的老婆和孩子。于是，一伙人大吵大闹要入秦府。城上（秦府）将士听后大骇。因为就兵力而言，李世民兵虽精，但少得实在可怜，寡难敌众；而且大多数将领都集中在玄武门，秦府处只有房玄龄、杜如晦守在那里，毕竟力量单薄，万一失守，也是关系到全局的成败。所以，秦府将士们惊恐不已，部不知如何是好。这时，尉迟敬德忽然想出个好主意，他提着建成和元吉的首级，挂在城墙上，给东宫、齐府的将士看。那些将士看到自己的主人已经人头落地。一下子就像泄了气的皮球，毫无斗志，纷纷逃命去了。
战斗基本上已经结束，李世民开始收拾战场，叫尉迟敬德向李渊汇报情况。敬德一身戎衣，身穿铠甲手持长矛，李渊一看就知道已经出了乱子，便问裴寂等怎么办。萧瑶、陈叔达进言：“建成、元吉本不预义谋，又无功于天下，疾秦王功高望重，共为奸谋。今秦王已讨而诛之，秦王功盖宇宙，率土归心，陛下若处以元良（太子），委之国事，无复事矣！”李渊只好同意，并写了“手敕”，命令所有的军队一律听从秦王的处置。
同时，李渊派黄门侍郎裴矩到东宫晓谕诸将卒，事变最终就这样平息下来了。六月七日，唐高祖李渊下诏立世民为皇太子。诏文说：“皇太子世民夙禀生知，识量明允，文德武功，平一宇内，九官惟序，四门以穆。朕付托得人，义同释负，遐迩宁泰，嘉慰良深。自今后军机兵仗仓粮，凡厥庶政，事无大小，悉委皇太子断决，然后闻奏。”这里，所谓“义同释负”，未必是由衷之言，充分肯定秦王世民的“文德武功”，倒是体现了立贤的原则。至于规定今后军国庶事，不分大小，一律先由皇太子处决，这就表明李世民实际上开始执政了。
过了几天，李渊又提出：“朕当加尊号为太上皇。”表示了要早些退位的意愿。八月癸亥，正式传位于太子。甲子，李世民即位于东宫显德殿。次年正月，改元“贞观”，开始了“贞观之治”的新时期。这里面，我们不难想象李渊的言不由衷，只不过是迫于当时的形势，只好退位。因为我们知道，李世民在未谋划之前就和众大臣说过，并不是因李建成的缘故而犹豫不决，而是因为铲除李建成后，如何处理好和父亲的关系，既然发动了战争，就必须掌握实权。也就是说，他铲除李建成，是因为他已经有把握能得到实权了。所以说李渊是被迫退位，而不是自愿退位。
在这场宫廷斗争中，李世民的势力从表面上看一直处于劣势，但是，他的才能，不论从哪方而讲，都是李建成和李元吉无法比拟的。李世民故意露出软弱的一面，李建成和李元吉却被这种表象迷惑了。也不能说李建成无谋，李建成同样是一个高超的谋略家，比如在朝中握有实权的宰相裴寂始终站在他这一边；在后宫之中，李建成也买通了李渊的宠妃，不断向李渊说李世民的坏话，也引起了李渊对李世民的猜疑；在军事上，李建成在太子东宫豢养了几千卫士，被称作“长林兵”，实际上是李建成的私人武装力量，在官外他又令心腹招募健儿进行操练，为兵变做准备；在地方，李建成也取得了河北的支持。这样，不论从哪个方面来说，李建成的力量都非常强大，只不过太自信了。
力量对比是一回事，具体到事情的成败又是另一回事。李世民假装在实力上处于劣势，使李建成轻视他，这样就更容易对付，而且善于谋算的他采取了先发制人的策略，最终将大意疏忽的李建成击败，并斩草除根，杀了太子和齐王的子嗣，登上了皇帝的宝座。
