李世民的父亲李渊出身于北朝的关陇贵族，李渊的母亲是隋炀帝杨广生母的姐姐，所以他七岁就袭封唐国公。隋炀帝即位后，李渊任荥阳、楼烦二郡太守，后被召为殿内少监，迁卫尉少卿。李渊对待部下宽厚容忍，所以很多人愿意归附他。当时有方士安伽说：“李氏当为天子”，他劝说隋炀帝杀尽天下姓李的人，于是隋炀帝把隋朝门第强盛的李浑家族灭了门。隋炀帝又认为李渊相貌奇异，名字又与图谶相映合，就对他很猜忌。不久，隋炀帝征召李渊到他的行在，李渊患病未去应召谒见，李渊的外甥女王氏是隋炀帝的妃嫔，隋炀帝问王氏：“你舅舅为什么迟到？”王氏回答说李渊病了，隋炀帝问：“能死吗？”李渊知道了这件事很害怕，于是就酗酒受贿来伪装自己。后来隋炀帝把注意力放在了瓦岗起义军统帅李密身上，李渊才得以休养生息，发展壮大。
大业末年，隋炀帝杨广在雁门被突厥所包围，李世民跟着屯卫将军云定兴去救驾，李世民对云定兴道：“一定要携带旗鼓来设置疑兵。再说始毕可汗全国的军队敢于包围天子，必定是认为国家仓猝之间无人救援。我们应该虚张声势，让军旗连绵数十里，夜晚就让钲和鼓声互相呼应，胡虏必定认为我们已大军云集，就会看见军队扬起的尘土而逃遁了。不然的话，敌众我寡，他们全军来战，我们未必抵挡的住。”云定兴采纳了李世民的建议，把军队驻扎在崞县，突厥侦察骑兵飞马报告始毕说：“隋朝大军已到。”由此突厥解围遁逃而去。
等到李渊留守太原，李世民已经十八岁了。当时有高阳魏刀儿造反，号称历山飞，来攻太原，李渊被困在贼人阵营中。李世民用精锐的骑兵突围而进，弓箭所射，敌军溃散，在万众敌营之中救出李渊。正好朝廷部队赶到，李渊与李世民又奋力攻击，大破敌军。突厥人几次侵犯隋帝国的北部边境。炀帝下诏命晋陽留守李渊率领太原道军队与马邑太守王仁恭抗击突厥。这时突厥正处于强盛时期，太原道及马邑郡两处隋军不满五千人，王仁恭忧虑兵少。李渊挑选善于骑射的士卒二千人，让这些隋军士兵饮食起居完全同突厥人一样，隋军骑兵与突厥人相遇时，就伺机袭击突厥人，这样前后屡次获胜，突厥人很怕李渊。李世民为人聪明、勇猛、果断、有见识，胆量过人。他看到隋王室正处于混乱之中，就暗中怀有要安定天下的抱负。他礼贤下士，散发资财以结交宾客，赢得了大家的爱戴拥护。
李世民知道父亲和裴寂是很好的朋友，所以想请裴寂去劝说父亲造反。李世民就拿出自己的私房钱几百万，故意让人在赌桌在输给裴寂，裴寂非常高兴，由此每天都与李世民在一起交游往来，情谊日深。李世民把自己的意图告诉裴寂，裴寂答应了帮他劝说李渊。裴寂私下用晋阳的宫女侍奉李渊，两人在一起饮酒，饮至酒意正浓，裴寂从容地说：“二郎暗地招兵买马，发举义旗办大事。正是因为这样我私自让宫女侍奉您，恐怕事情败露出来，一起获罪被诛杀，为此才定下这应急之计。大家的意向和他的一样，现在您意下如何？”李渊说：“我儿子确有这个图谋，事情已经如此，又能怎样呢？正是应当听从他的意见。”当时正好有突厥人侵犯马邑，李渊派高君雅率兵与马邑太守王仁恭同力抗击突厥人。王仁恭、高君雅与突厥交战不利，隋炀帝认为李渊与王仁恭不能抵御突厥的进犯，派使者来要将他们押往江都，李渊大为恐惧。李世民乘机劝说李渊道：“如今主上昏庸无道，百姓困顿贫穷，晋阳城外都成了战场，大人要是恪守小节是不可能的，现在下有流寇盗贼，上有严刑峻法，您的危亡就要来到了，不如顺应民心，兴起义兵，转祸为福，这是上天授予的时机。”
李渊大吃一惊说：“你怎么说这种话，我现在就将你抓起来向国家告发！”说着就取来纸笔，要写状表。李世民慢慢地说：“我观察天时人事到了如此地步，才敢说这样的话。您如果一定要告发我，我也不派死的！”李渊说：“我哪里会忍心告发你，只是你要谨慎，这种话不要随便乱说！”第二天，李世民又劝李渊道：“如今盗贼日益增多，遍布天下，大人受诏讨贼，可贼讨得尽吗？总而言之，最后还是不免获罪。而且世人都传说李氏当应验图谶，所以李浑无罪却因此被灭了族。大人要是能将贼剿灭尽，那么功高也不会受奖，而您自己会更危险了啊！只有昨天的话可以使您避祸，这是万全之策，希望大人不要疑虑。”李渊叹息说：“我一夜都在考虑你的话，你说的很是有理，今天就是家破人亡也由你，变家为国也由你啦！”
当时李渊的儿子李建成和李元吉还在河东，所以李渊延迟而不能决定。刘文静对裴寂说：“先发制人，后发制于人，您为何不早劝唐公起兵，却推迟拖延不已？况且您身为宫监，却用宫人侍奉宾客，您死也就罢了，为什么要误了唐公呢？”裴寂极为恐惧，屡次催促李渊起兵。李渊就让刘文静起草敕书，征发太原、西河、雁门、马邑等地年在二十岁以上、五十岁以下的人全部当兵，规定年底在涿郡集结，去攻打高丽，因此人心慌慌，策划造反的人越来越多。后来刘武周占据了汾阳宫，李世民对李渊说：“大人身为留守，而盗贼窃据离宫，如果不早定大计，灾祸今天就要到来了。”于是李渊召集将领僚佐，对他们说：“刘武周占据汾阳宫，我们却不能制止，论罪该当灭族，怎么办？”太原郡丞王威王威等人都很害怕，再三拜谢请求定计。
李渊说：“朝廷用兵，行止进退都要向上级禀报，受上级控制。如今贼人在数百里之内，江都在三千里之外，加以道路险要，还有别的盗贼盘踞，靠着据城以守和拘泥不知变通之兵，以抵抗狡诈与狂奔乱窜之盗贼，必然无法保全。我们现在是进退维谷，怎么办才好？”王威等人都说：“您的地位又是宗亲又是贤士，同国家命运休戚相关，要是等着奏报，哪里赶得上时机；要是平灭盗贼，专权也是可以的。”李渊佯装不得已而听从的样子，说：“既然这样就应当先征集军队。”于是他命令李世民与刘文静、长孙顺德、刘弘基等人各自募兵。四处的百姓都来投奔汇集，十天之内就来了一万人。李渊秘密派人去河东召李建成、李元吉，去长安召柴绍。王威、高君雅看到李渊大肆招兵，怀疑李渊有不轨之图，但他们手中无兵也没有办法。公元617年五月十四日夜里，李渊派李世民率兵埋伏在晋阳宫城的外面。十五日早晨，李渊与王威、高君雅坐在一起处理政务，刘文静引着刘政会进来立在厅堂上，声称有密事报告。李渊用眼睛示意王威等人取状纸看，刘政会不给，说：“告发的是副留守的事，只有唐公才能看。”李渊佯作吃惊地说：“难道有这样的事？”他看了状子才说：“王威、高君雅暗中勾引突厥人入侵。”高君雅捋起衣袖大骂道：“这是造反的人要杀我。”这时李世民已经在大路上布满了军队，刘文静就和刘弘基、长孙顺德等人一起将王威、高君雅抓起来投进监狱。
五月十七日，突厥几万兵马侵犯晋陽，其轻骑从外城北门进入，从东门出去。李渊命令裴寂等人率兵防备，而把各城门都打开，突厥人不知虚实，不敢进入。大家都以为确实是王威、高君雅把突厥人招来的，于是李渊将二人处死，悬首示众。李渊的部将王康达率领一千余人出战，全部战死，城中人心惊惶。李渊在夜里派军队悄悄出城，早晨则张旗呜鼓从别的道路上开来，好象是援军来到了一样。突厥人始终疑惑，在城外逗留了两天，大肆抢掠而去。刘文静劝李渊与突厥人相结交，请突厥人资助兵马以壮大兵势，李渊听从了这个意见。他亲笔写信，言辞卑屈，送给始毕可汗的礼物十分丰厚，信中说：“我想大举义兵，远迎隋主，重新与突厥和亲，就象开皇年间那样。您要是能和我一起南下，希望不要侵扰强暴百姓。假若您只想和亲，您就坐受财物吧。这些方案请您自己选择。”始毕可汗得到李渊的信，对他的大臣说：“隋朝皇帝的为人我是了解的，若是把他迎接回来，必定会加害唐公而且向我进攻，这是毫无疑问的。如果唐公自称天子，我应当出兵去帮助他。”欲知后事如何？且听下回分解。