隋大业十三年（公元617年）六月癸巳，李渊传檄各郡后，命四子李元吉留守太原，亲率三万甲士自晋阳誓师南下，大军行至西河郡时，郡丞高德儒闭门拒守，李渊命长子李建成、次子李世民并肩攻城，城破后李世民于郡衙前亲自执住高德儒衣襟——此人正是当年以“孔雀为鸾鸟”谄媚隋炀帝的佞臣——少年将军当众数落其罪状后斩首，余众不戮一人，秋毫无犯，沿途百姓送蔬食清水者不绝于道。

七月壬子，大军进至贾胡堡，距霍邑五十里时忽逢暴雨，粮道被冲毁，又传言刘武周将袭晋阳，李渊召集军议，长史裴寂以“屈突通守河东、宋老生据霍邑，太原根本地”为由主张回师，李世民则夜闯父帅帐中，握紧李渊的手说：“今禾菽被野，何忧乏粮？宋老生轻躁，一战可擒。李密顾恋仓粟，未遑远略。刘武周与突厥外虽相附，内实相猜。当先入咸阳，号令天下！”帐外雨声如瀑，李渊凝视油灯下舆图良久，忽闻帐外有异响，原来右领军大都督刘弘基与左领军长史陈演寿已率数十将领跪在泥泞中请战，李渊遂掷令箭于地：“明日雨止进军。”

八月辛巳，天色初霁，李渊命李建成领左军佯退诱敌，宋老生果然率两万精兵出城东门，李世民趁机率柴绍领三百轻骑自城南高地俯冲，截断隋军归路，混战中李世民手刃数十人，两刃刀砍缺三道口子，鲜血染红马腹，李渊趁机在阵前高呼“已斩宋老生”，隋军大溃，守城士兵竟不及收起吊桥，唐军踩着横尸涌入霍邑，黄昏时分，兵士在乱尸堆中找到受伤的宋老生，李世民命刘弘基将其就地处决。

九月庚申，唐军围困河东城，屈突通坚守不出，李渊采纳李世民“兵贵神速”之策，留刘文静率部分兵马监视屈突通，主力连夜自壶口渡河，当地渔民献出百余艘渔船，船少兵多，士卒争渡，李渊命将自己的黑鬃白马先牵上船，忽见对岸山麓有火光移动，原是关中豪强孙华率数十轻骑泅水来迎，衣甲尽湿仍伏地高呼“臣等望义旗如旱苗待雨”，李渊当即解紫绫袍赐之。

渡河后径取永丰仓，守将赵元楷献仓时特意指出西仓廒房存有前年陇右进贡的冰蔗糖八百石，李渊命全部分赏士卒，又开仓放粮，每日关中百姓扶老携幼领米者蜿蜒二十里。

十月辛巳，李渊命李建成率刘文静、王长谐等部屯永丰仓兼守潼关，防屈突通东窜，李世民率刘弘基、长孙顺德等部西进渭北，沿途收编何潘仁、李仲文等流民武装，至泾阳时兵力已达九万，此时李世民三妹平阳昭公主遣家僮马三宝送来密报，言其已在鄂县山中聚众七万，随时可会师渭北。

十一月丙辰，唐军主力会师长安春明门外，李渊命李世民自西北金光门进攻，李建成自东南延兴门进攻，围城第十日，军头雷永吉乘夜雾率先攀上城墙，左脚踏中垛口湿冰险些坠落，右手死死抠住砖缝方得跃上，随即连杀三名守垛隋兵，唐军如潮涌入，代王杨侑在东宫被护军簇拥时，尚书左丞李纲已捧传国玉玺候在大兴殿前。

十一月甲子，李渊迎十三岁代王即皇帝位于大兴殿，遥尊炀帝为太上皇，改元义宁，自为大都督、尚书令、大丞相，晋封唐王，其敕令文书皆用土色麻纸——此纸原为隋廷罪囚案卷用纸，裴寂特意择此纸以示“除旧布新”，每页纸角均钤有玄武纹暗记，自此，长安武库五万领精甲在晨曦中悉数换上了唐军的赤白旗幡。