高祖姓李名渊，字叔德，陇西成纪人。他的前七代先祖李詗，晋末时占据秦、凉二州，自称为王，即凉武昭王。李詗的儿子李歆，被北凉首领沮渠蒙逊灭掉。李歆之子重耳，是北魏的弘农太守。其子李熙，是才能优异的朝廷诏用镇将，因驻守武川，安家长居此地。李熙之子李天赐，任幢主。其子李虎，西魏时被赐姓大野，官做到太尉，与李弼等八人辅助北周取代西魏有功，都成为加“柱国”衔的最高武官，号称“八柱国家”.北周孝闵帝承继西魏帝位时，李虎已去世，便追认他的功劳，封为唐国公，谥号“襄”.襄公之子李日丙，承袭其父爵位封为唐公，任北周的安州总管、柱国大将军，谥号“仁”.
李日丙在长安生下高祖，李渊性情宽厚仁爱，袭位封为唐公。隋文帝的独孤皇后是高祖姨母，因此文帝与高祖亲近友爱。文帝任北周宰相时，恢复高祖姓李，委任他做侍卫官千牛备身，任用为隋朝的谯、陇二州刺史。
隋炀帝大业年间（605~617），高祖历任岐州刺史、荥阳楼烦二郡太守，召任为殿内少监、卫尉少卿。炀帝征讨辽东，派高祖在怀远镇督运军粮。杨玄感想要谋反，他随从炀帝征辽的兄弟们尽都逃回，高祖事前察觉，禀报炀帝，炀帝迅即率军返回，调高祖任弘化留守抵御杨玄感，并诏令关右诸郡军队统受高祖调度指挥。
这时，隋朝政务荒废，天下大乱，炀帝多凭猜忌杀戮大臣。他曾因事召见高祖，高祖有病，未按时谒见。高祖的外甥王氏，在后宫供职，炀帝问王氏，王氏回禀高祖有病，炀帝说：“可会死吗？”高祖听说后更为恐惧，于是放肆饮酒、收受馈赠，借以掩藏行迹。
大业十一年（615），高祖任山西河东慰抚大使，还击龙门的贼寇母端儿，射七十箭全部命中，贼寇败逃。高祖收聚贼寇尸体垒高示众，从尸体上尽数收得所射的箭。又攻打绛州贼寇柴保昌，降服其部众数万人。突厥侵犯边塞，高祖与马邑太守王仁恭迎击，隋军兵少，不足抵敌。高祖挑选两千精锐骑兵作为流动部队，宿营、饮食傍水就草，习俗如同突厥，并射箭捕猎纵马驰骋，以示兵力悠闲有余；又另选擅长射术的士兵埋伏作为出奇制胜之军。敌寇遭遇高祖，犯疑不敢交战；高祖趁机攻击，突厥军大败而逃。
大业十三年（617），高祖任太原留守，在西河攻打高阳历山飞的贼寇甄翟儿，攻破贼军。这时，炀帝南游江都，天下盗寇四起。高祖之子李世民料定隋朝必亡，暗中交结豪杰，招纳逃亡人士，与晋阳县令刘文静策划夺取天下，计谋已定，而高祖尚不知道，想以实情相告，又怕他不听从。高祖留守太原，兼任晋阳宫监，他所赞许的宾客裴寂任副监。李世民暗地与裴寂商议，于是裴寂挑选晋阳宫的宫女私下侍奉高祖。高祖到裴家饮酒，酒兴正浓心情舒畅时，裴寂才将夺取天下的事告诉他，高祖大惊。裴寂说：“正因为宫女私下侍奉您，事情暴露罪当处死，才这样做的。”李世民也趁势进来禀告这件事。高祖起初假装反对，要抓李世民送官府，之后才表示赞同，说：“我钟爱你，难道忍心告发你吗？”但没有发难。而他所在地区盗贼越来越多，突厥屡屡侵犯边塞，高祖出兵不见功效，炀帝派使臣来抓高祖到江都，高祖十分恐惧。李世民说：“势态危急，可以行动了！”随即炀帝又派使臣快马赶来赦免高祖，起兵发难才中止。
这时，刘武周起兵马邑，林士弘起兵豫章，刘元进起兵晋安，都自称皇帝；朱粲起兵南阳，号称楚帝；李子通起兵海陵，号称楚王；邵江海占据岐州，号称新平王；薛举起兵金城，号称西秦霸王；郭子和起兵榆林，号称永乐王；窦建德起兵河间，号称长乐王；王须拔在恒、定一带起兵，号称漫天王；汪华在新安起兵，杜伏威在淮南起兵，都号称吴王；李密在巩地起兵，号称魏公；王德仁在邺地起兵，号称太公；左才相在齐郡起兵，号称博山公；罗艺占据幽州，左难当占据泾，冯盎占据高、罗，都号称总管；梁师都占据朔方，号称大丞相；孟海公占据曹州，号称录事；周文举占据淮阳，号称柳叶军；高开道占据北平，张长訹占据五原，周洮占据上洛，杨士林占据山南，徐圆朗占据兖州，杨仲达占据豫州，张善相占据伊、汝，王要汉占据汴州，时德睿又占据尉氏，李义满占据平陵，綦公顺占据青、莱，淳于难占据文登，徐师顺占据任城，蒋弘度占据东海，王薄占据齐郡，蒋善合占据郓州，田留安占据章丘，张青特占据济北，臧君相占据海州，殷恭邃占据舒州，周法明占据永安，苗海潮占据永嘉，梅知岩占据宣城，邓文进占据广州，俚族首领杨世略占据循、潮，冉安昌占据巴东，宁长真占据郁林，其他另有称号的各盗群往往啸聚山林水泽。当刘武周攻打汾阳宫时，高祖便召集众将领、吏属，对他们讲：“如今我任留守，如果贼寇攻占了皇帝别宫，即使贼寇不杀我等，论罪也该处死。但要出兵迎击，必待朝廷答复，眼下江都交通阻隔、路途遥远，延误了规定的奏报时间怎么办？”众将、吏都说：“国家利益大事，现在能独自决断的人是您。”高祖说：“好！”于是招募兵丁，十天时间招得一万人。副留守、虎贲郎将王威、虎牙郎将高君雅见大量募集士兵，疑心发生异常事变，商量趁着到晋祠求雨的机会除掉高祖。被高祖察觉，便暗地做了防备。
五月十五日，高祖和王威、高君雅一道办理公务，开阳府司马刘政会指控王威、高君雅谋反，高祖当即在座位上把他们抓了。十七日，突厥进犯边境，高祖传令军中说：“有人告发王威、高君雅招来突厥，现证实果然如此。”于是杀了王、高二人趁势起兵。并派刘文静出使突厥，相约媾和。
六月己卯日，高祖向各郡发布军事文告，号称是禁暴救乱的义兵，设置大将军府，建立左、中、右三军。以长子李建成任陇西公、左领军大都督，左军隶属其下；次子李世民为敦煌公、右领军大都督，右军隶属其下；三子李元吉为姑臧公，中军隶属其下。裴寂任长史，刘文静任司马，石艾县县长殷开山任掾史，刘政会为属，长孙顺德、王长谐、刘弘基、窦琮为统军。开仓救济穷困百姓。
七月初三，高祖手执白色军旗，在原野上对全军动员、宣誓，拥有三万人马，派李元吉任太原留守。初四，从太原发兵。初五，派将领张纶攻下离石、龙泉、文城三郡。初七，行军至灵石县，安营在贾胡堡。隋朝虎牙郎将宋老生驻扎霍邑，抗拒义军。十七日，隋朝鹰扬府司马李轨在武威起兵，自号大凉王。
八月初三，义军在霍邑打败宋老生。初八，攻下临汾郡。十三日，攻克绛郡。十五日，义军在龙门县驻扎，突厥派军前来助战。隋朝骁卫大将军屈突通驻守河东县，拆断了渡桥。二十四日，冯翊的盗贼孙华、土门的盗贼白玄度都备好舟船前来迎接义军。
九月初十，高祖兼任太尉，增设下属僚吏。高祖用猪、羊做祭礼祭祀黄河，然后渡河。十六日，行军停驻长春宫。十八日，陇西公李建成、刘文静屯兵永丰仓，驻守潼关。敦煌公李世民从渭北攻下三辅一带，高祖的堂弟李神通在县起兵，高祖的女儿、柴绍之妻也在司竹起兵，都来与李世民会合…县的盗贼丘师利、李仲文，周至县的盗贼何潘仁、向善思，宜君县的盗贼刘炅等来降顺义军，因而夺取平定了、杜两县。十四日，高祖进驻冯翊。二十七日，敦煌公李世民驻扎阿城，陇西公李建成由新丰县奔赴军事要地霸上。二十八日，高祖从下圭阝西进，将所经过的隋帝行宫、园林禁苑，全部废止，放出宫女让她们回家。
(责任编辑：陈冬梅)
