这时候，李建成和李元吉向着玄武门走来，他们压根都没有想到，玄武门内已经布下了天罗地网。他们把随从留在玄武门外，二人骑马入宫，走到临湖殿的时候，突然发现殿边有马影闪动，知道要有麻烦了，赶紧拨转马头，往东宫方向跑。李二从后面呼叫二人停步，李元吉回头张弓连射三箭，但心慌意乱之下三次都没能将弓拉满，三箭都没射远。李二勒停坐骑，稳稳当当地对准李建成一箭射出，当场射死太子李建成。那边李元吉也被尉迟敬德射伤落马。同时李二的坐骑也被流箭射伤了，失去控制冲入林中，致使李世民的腰带被树枝勾住，坠落马下。李元吉追过去夺了李世民的弓，要用弓弦勒死他，尉迟敬德大喝一声及时赶到，李元吉本来就怕尉迟敬德，赶紧逃跑，被尉迟敬德一箭射死。
玄武门的事情很快传到东宫、齐王府，李建成的属下冯立、薛万彻、谢叔方等人率精兵来救。秦王府将领张公瑾神力惊人，独力将宫门关上。宫门刚关上，东宫兵将的战马已撞到门上。当时驻扎在玄武门的禁军将领敬君弘挺身而出，助李二一方作战，他的亲随劝他先观望一下，至少等北门的禁军兵力集结起来后再战。但他不听，和同是玄武门守将的吕世衡一同出战，结果两人都战死。
东宫、齐王府等兵将攻打玄武门不顺利，首领薛万彻心生一计，叫嚣着要去攻打秦王府。此时秦王府兵力大部分集中在玄武门，府中只剩几个文官留守，所以大家一听都吓坏了。在这千钧一发之时，尉迟敬德把李建成、李元吉的首级割下来，举起来让东宫和齐王府的士兵看。那些人见太子、齐王已死，登时军心焕散，顿作鸟兽散。薛万彻也率骑兵数十人逃离长安，躲进终南山中。
李世民按照事先的计划，派尉迟敬德全身披挂，手持长矛直入宫中面见李渊。有了常何等禁军将领的配合，和长孙氏关于皇帝行踪的情报，尉迟敬德很容易就找到了李渊。这时李渊正在和裴寂、萧瑀、陈叔达、宇文士及、裴矩等几位重臣海池划船议事（估计就是在商议李二密奏的事）。李渊一见尉迟敬德全副武装来了，顿时大惊失色，问：“谁在作乱，你来这里干什么？”尉迟敬德早就知道按照政变计划自己该说什么该做什么，他马上答：“太子、齐王作乱，秦王已经带兵把他们都杀死了。秦王怕惊吓了陛下，派我来保卫您！”李渊一下子就明白是怎么回事了：他是皇帝，身在皇宫，根本没有人要杀他，根本不需要尉迟敬德来保护；相反，尉迟敬德是来威胁和劫持皇帝的，既是政变，控制皇帝是必不可少的环节。
事情的发展太过突然，对于李渊来说，那感觉就像从天上一下掉进了深渊。他赶紧问旁边的大臣们：“事情竟然到了这一步，你们说该怎么办呢？”裴寂没有搭话，萧瑀、陈叔达回应：“建成与元吉嫉妒秦王的功勋，一起策划阴谋。现在秦王已经杀了他们，如果陛下能决定立秦王为太子，就会没事的。”李渊是何等人物，一见自己到了任人宰割的地步，就很识时务地说：“好！我早就有这样的想法！”
尉迟敬德见李渊表了态，知道大功已基本告成。又得寸进尺地对李渊说：“禁军和秦王府的兵马正在攻打东宫，太子的军队还在东宫死守。请陛下下诏，命令各军一律接受秦王的处置，这样就不会再有伤亡了。”李渊明白这只是借口，本意是想夺走长安的甚至全国的兵权，但他既已被控制，就不得不按照尉迟敬德的要求来写手诏。手诏写成后交给宇文士及带着圣旨由东上阁门出去，向东宫和齐王府的人宣读，那些兵一见圣旨，将放弃了抵抗。接着，高祖又让曾经在东宫任过职的陈叔达前往东宫去作将士们的思想工作，将士们听后，觉得大势已去，便各自回去收拾行囊各奔东西了。
接着，李世民狠辣的一面就显现出来了，他下令将李建成五个儿子和李元吉五个儿子全部杀死。李建成的便宜大儿子李承宗早就跟李渊他们做了切割，远走他乡，建国称帝，实际上是另立一家了，而李渊最宠爱的孙子李承道，李二派人去杀他，为了自己的母亲及其他兄弟，面对士兵，他说：“父亲被杀，做儿子的哪能逃跑！视为不孝！我身为太子之子，只求饶我母亲一命！”这个傻小子就自杀了李建成和李元吉在长安的子嗣只有武安王李承训跟着自己的亲妈前往曹州探亲，幸运的躲过了一劫，他们在得知李二要杀杀绝李建成的子嗣之后，李承训的母亲思前想后，这天底下能护住李承训的人也就只有他了，于是这个小妇人带着自己的七岁的儿子，隐姓埋名，风餐露宿，跑到了李汉王朝在华夏本土的大本营青岛府，在找到大都督张镇周出示了自己的信物之后，请求把他们娘俩送往金城，张镇周在看到李承训母子之后，不由得感叹他的陛下真乃神人也，竟然早在几年前就预测到了李唐会有一场血腥政变，他还说这政变八成就是在玄武门展开，如今一瞧，果不其然，至于李承训和他娘，李承宗早就给镇守青岛的张镇周有了交代，若是能逃出来的，就送到北美来，他李承宗可不怕李二
李渊一日之内有二子九孙被杀，心情的沉痛可想而知。但