这时，正在攻打洛阳的李密兵锋正盛，有囊括天下的气势，以是李渊就写信给李密但愿缔盟共同对于隋军。李密见信后，答复李渊说缔盟能够但是要他亲身到河内(今河南沁阳)和他筹议缔盟的事。李渊见信后说：“密妄自矜大，非折简可致。吾方有事关中，若遽绝之，乃是重生一敌；不如卑辞推奖，以骄其志，使为我塞成皋(虎牢关)之道，缀东都(洛阳)之兵，我得专意西征。俟关中安定，据险养威，徐观鹬蚌之势。以收渔人之功，未为晚也。”因而李渊给李密的信中很卑恭地说：“天生烝民，必有司牧，当今为牧。非子而谁，老夫年逾知命，愿不及此”。李密在接到李渊信后，见李渊如此推许本身，就放松了对李渊的警戒并和他简朴缔盟。李渊的粗心不但忽视了对李渊图天下野心的防备，并且还实际为李渊造反牵掣了隋军主力。使隋军不能西救关中长安。
十月，李渊率军自冯翊到长安东北，各军汇合，气力生长到几十万人。十一月，李渊汇合李建成、李世民、刘弘基之兵20余万攻打长安。打击长安前，李渊命令不准侵犯隋朝七庙和代王宗室，违令者夷其三族，遂命诸军攻城，军头雷永吉率先登上城头，都城长安很快被李渊霸占。
八月，大雨停止了，回军的李渊率马队沿巷子奔霍邑，宋须生守城不出。李渊无法就派李建成、李世民带领几十骑到城下唾骂宋须生，同时本身带领马队在城东埋伏。宋须生乃率众三万自东门、南门分道而出。李渊这时即同李建成左军结阵于东门，令李世民右军结阵于南门，以断宋须生的逃路。成阵以后，又怕宋军背城不肯远战，乃号令军队向后收缩，伪作退避宋军模样。宋须生公然以为李渊畏缩，在间隔城一里余处所布阵。不久李渊的后续军队来到，李渊想命军队就食后再战，李世民以为，“时不成失”，遂策动了的打击。一比武，李渊、李建成在城东的步地倒霉，便向后引退，李世民发明宋须生雄师侧背透露，即引兵自城南直冲宋须生军阵后，并扬言已俘虏宋须生，隋军大溃败，李渊得以敏捷占据了霍邑。
李渊渡河今后，先在朝邑，以掉队到冯翊。见攻取长安的机会已经成熟，乃命李建成率精兵自永丰仓经新丰(陕西临潼)到长乐宫(长安东北)与李世民所部完成了对长安的包抄。此时，陕北各郡县也纷繁请降。
李渊率雄师循汾水进军，到了贾胡堡，距霍邑五十余里。这时，连日阴雨，军队受阻不能进步，并且军队缺粮。特别是有传言说刘武周结合突厥将进犯太原。这时。裴寂等以为：宋须生、屈突通连兵据险，不易处理；李密大要上承诺结合了，但靠不住。突厥贪而无信，唯利是图，结合刘武周进犯是能够的，将士家眷都在太原，太原职位很首要，“不如还救底子，更图后举”。李渊同意后命令退兵回太原。
李渊雄师度过黄河后，声望所至，隋朝官吏纷繁投降。华阴令李孝常献永丰仓投降，使李建成等得以顺利地占据永丰仓。李世民所到之处，收编隋军和各小部分叛逆兵，短期内“胜兵九万”设营在泾阳，并派刘弘基攻取了扶风，度过渭水，屯军在长安故城。原在关中地区的李渊亲族，如其女李氏，婿段纶，族弟李神通等，也呼应李渊起兵，并与长安四周各小部分叛逆兵汇合，占据了兰田、盏屋、武功、始划一地，人数到了十余万人，皆同一归李世民批示。
李渊在攻占霍邑以后，乘胜连下临汾、绛郡(山西新绛)，进逼龙门。关中权势最大的一支农夫义兵孙华和冯翊（陕西大荔）太守萧造投降李渊。李渊因而一方面率主力围攻河东，另一方面派王长谐等率一部分兵力在孙华的帮部下度过黄河，在河西设营，形成了对河东围攻的无益情势。
随后，颠末筹办多时的李渊传檄各州、县，宣布正式起兵。李渊统领内的西河郡隋将得知李渊起兵的动静，依城把守。李渊只好派儿子李建成、李世民率兵攻打西河，并派太原令温大有参谋军事。西河郡兵微将寡，郡丞高德儒闭门守城。但是李建成仅仅用了9天时候便攻陷西河君，杀死了不肯兵变的高德儒。至此，李渊作为太原留守统领的五个郡的地盘除了三个郡被刘武周占据外，剩下的太原与西河两军皆归李渊统统。
拿下西河郡后，李渊号令开仓赈饥，招募兵士。并开大将军府，置全军，李渊亲任大将军。以宗子李建成为陇西公、左领军多数督，统领左军；次子李世民为炖煌公、右领军多数督，统领右军；小儿子李元吉为姑臧公，统领中军。裴寂为长史，刘文静为司马。
大业十三年(617)七月，李渊率隋军三万在太原誓师，进军关内并正式公布檄文。公布的檄文里，李渊斥责天子杨广听信谗言，殛毙忠良，穷兵黩武，导致民怨沸腾，“豺狼充于门路”，在檄文里李渊声明本身起兵是要废掉昏君杨广，然后拥立代王杨侑为帝，“尊天子为太上皇，立代王为帝，以安隋室”。而他本身则建大将军府亲任大将军，世子李建成为左领军多数督，李世民为右领军多数督，刘文静任大将军府司马。实在，这仅仅是李渊的一种号令天下的战略罢了，因为他复苏地熟谙到，此时的大隋王朝，是百足之虫、死而不僵。如果本身一开端就打出反对大隋的旌旗，那就不明智了。
李建成也支撑李世民的主张，也反对退回太原。考虑再三的李渊随后窜改退兵决计，追回军队重新围攻霍邑。
因为屈突通在河东凭坚城恪守，李渊雄师主力没有停顿，李渊便想绕过河东直趋长安。这时，裴寂以为：屈突通兵力不小，凭坚以守，若舍之而去，如果攻长安不下，退为河东所乘，“腹背受敌”很伤害，应抢先打下河东再进步。而次子李世民和裴寂的定见再次分歧，他以为：“兵贵神速”，应当乘势敏捷入关，则长安震惊。“智不及谋，勇不及断”，攻取很轻易。不然，顿兵坚城，空耗日月，长安就能安闲以备我，胜利就难了。因而李渊就以一部兵力持续围攻河东，本身率主力渡河入关。
李世民分歧意退兵的战略，便苦谏父亲李渊说：“现在恰是收成季候，郊野到处都是菽谷，何必担忧粮食不敷？”同时他以为刘武周与突厥“外虽相附，、内实相猜”，刘武周不会舍掉马邑去袭太原。另有李世民以为劈面的“宋须生轻躁，一战可擒”。最后他建议父亲只要抓紧机会；照本来目标“先入咸阳，号令天下”，才是精确的决策，并且说如果一点小的波折便行退兵，必定会形成“众散于前，敌乘于后”的局面，使本身陷于复灭的运气。
七月，誓师过后的李渊命李元吉留守太原，本身亲率3万雄师西突厥兵帮部下，向关中进发。李渊起兵的动静传到长安后。长安留守的代王杨侑派宋须生率兵三万屯在霍邑(山西霍县)，屈突通率雄师扼守河东(山西永济)，以防备其西进。
李渊的这个首要计谋决策，对李渊的生长，有着决定性的影响，起首李渊方才起兵，军心士气还不稳固，如果遇波折而退兵，必定会陷于崩溃不成复振。再者关入彀谋职位首要，并且当时空虚，图之者还大有人在，关西的薛举也企图关中长安，另有差未几就在李渊起兵同时，柴孝和就曾劝李密舍掉洛阳入关中，以图天下，李密没有采取，但时候一久，窜改就不成知了，以是必须趁机，捷足先登。如果李渊没有窜改他本身退兵的决定，李洲能够会像李密一样最后对关中无能有力，从而丧失争霸天下的底子。
过河后，李渊命李建成、刘文静等率军数万人向南迂回，占据永丰，扼守潼关，以防备东方；命李世民、刘弘基等率军数万人，向渭水北岸进军，节制长安核心各要点，然后攻占长安。而李渊本身则节制一部兵力在朝邑，批示各方向作战。