在实现第一步的计划中，他们遇到的劲敌是雄踞陇右，自称秦帝的薛举。

当薛举知道李渊据有关中后极为不安，立即派他的儿子薛仁杲率兵进攻扶风，但却被打退。

公元618年六月，薛举亲自统军来攻，唐朝派出刘文静抵御，但这次刘文静却犯了轻敌冒进的战略错误，最终惨败。

但上天似乎格外眷顾大唐，正当薛举准备乘胜前进时，没想到竟然突然病死了。

他的儿子薛仁杲继位，军心不稳，李世民乘机进军，两军相持了两个多月，乘着薛仁杲粮草用尽、将士离心之际，在浅水原大败薛仁杲部军，薛仁杲走投无路，只好投降。

平定薛仁杲之后，李渊又把锋芒指向久据河西、号称凉帝的李轨。

除了联络吐谷浑以孤立李轨以外，他还用离间计来瓦解李轨集团。

武德二年五月，唐高祖派安兴贵招抚李轨，但李轨不甘心就此居于人下，拒绝了李渊的招安，安兴贵就和弟弟安修仁引李轨帐下的胡人发动兵变，颠覆了李轨的政权，河西五郡也并入唐的版图。

至此，李渊经营西北、稳定后方的计划基本实现。

正当李渊部众与薛举、李轨等人纠缠不休时，没想到后院却起了火。

以前被李渊赶到代北的刘武周大举进攻太原，太原留守李元吉被打了个措手不及，弃城逃走，刘武周的军队直达山西西南部，引得关中震骇。

李渊此时镇定自若，命令李世民统领关中所有的兵力进行抵御。

李世民自龙门渡河，与刘武周部僵持五个月之久，然后乘着宋金刚军粮匮乏，向北撤退的时机，展开迅猛追击，刘武周兵败逃往突厥，后来被突厥杀死，唐军完全占领了山西地区。

这样就巩固了关中地界，扫除了进兵关东的障碍。

关东地区原来是瓦岗军翟让、李密的地盘，后来李密贪图权势，恩将仇报，杀害了曾经收留他的瓦岗军首领翟让，使瓦岗军内部出现了分裂。

不久之后他被洛阳王世充乘乱重伤，溃不成军，最后干脆降唐以求自保。

李渊很是优待李密，还把自己的表妹嫁给他，但李密投降后却不安分，还想要趁唐军与王世充部开战之机拉一支亲军东山再起，但不久就阴谋败露，被李渊除掉。

现在关中最大的障碍是王世充的势力。

王世充本来也是隋朝的大将，曾任江都通守，隋炀帝被杀之后，他拥立炀帝的另一个孙子杨侗为帝，但到了公元619年，他干脆踢开杨侗自己称帝，建立郑国，定都洛阳。

为了尽快平定关东，李渊派李世民倾全部主力对付王世充，王世充怕自己支持不了多久，就拉上窦建德的势力一起对抗，结果连窦建德也被李世民打得大败。

这下王世充彻底绝望了，当他看到自己只剩下洛阳一座孤城的时候，也只得被迫投降。

虽然窦建德作战失败，但他一向优待属下，安抚百姓，在民众中拥有很高威望。

当李世民派人将窦建德押赴长安时，曾经劝告李渊不要杀死窦建德，但李渊没有听从，结果激得窦建德手下大将刘黑闼造反，联络突厥卷土重来，李渊派李元吉前去平定，竟然惨败而还，不得已之下只好派太子李建成亲征，倾巢出动才将刘黑闼制服，刘黑闼兵败被杀。

至此关东之地才算彻底在李唐王朝的掌控之下，此时已经是李渊称帝后的第六个年头了。

江南的平定比江北相对容易一些。

割据江南的主要是萧铣、杜伏威，萧铣原是南朝后梁皇族后裔，与炀帝的萧皇后是本家，他想趁隋乱恢复梁的基业，但却与杜伏威一样，很快就被李渊的大将李靖打败了。