唐王朝對全國控制的擴展
此時，唐王朝已占據了隋都城、陜西（關中）和山西（河東）的部分地區。但是，它依然是許許多多地方政權中的一個政權而已。它也不是唯一稱帝的政權。在隋末唐初有兩百多個叛亂組織互相打來打去，不過其中只有十支人馬有可能建立穩固的政權和問鼎中原。其余叛亂者不過占據小城鎮，俟機投靠可能的勝利者，只想至少撈取一些地方權勢。許多地方仍然受制于隋朝的文武官吏，這些人或仍然忠于煬帝，或只是想保持他們的地方勢力。在另外一些地方，當地紳士階層也起兵反對盜匪和內戰，他們準備隨時支持那些能給該地區帶來和平穩定的人。唐高祖的任務是一方面盡量取得這些小叛亂者、隋朝官員和紳士領袖人物的支持，一方面就是摧毀他的主要對手們的力量。他達到第一個目的的辦法是，他精明地既搞大赦，又搞封官許愿，又搞特賞；而為了達到后一個目的，他則不斷擴充自己的兵力，精心地予以部署。
總的說來，唐朝的綏靖工作實施得相當克制。那些率部帶著領土投降的人以及許多在戰場上被打敗的人，都被給予特赦。甚至有些叛亂領袖已被處決，但其隨從一般都給予寬大處理。戰敗的軍隊被吸收進唐軍，而重要叛亂領袖的軍隊也往往在原來軍官的帶領下原建制地參加唐軍。除了委以地方官職之外，唐朝皇帝還給效忠者以其他刺激。每次戰斗結束之后他都很細心地犒賞他的軍隊。
617年后期緊接著奪取大興城之后，唐王朝立即開始了征服中國其余部分的軍事活動。戰斗一直延續了十多年，但主要的抗拒力量已于624年初期被制服。奉命外出討伐叛亂的唐軍稱為行軍。他們不是常備軍，而是視情況需要而特設的軍隊。建立這種部隊的辦法是：在地方或地區兩級的老百姓中征兵；另外也吸收打敗了的敵軍部隊；后來還動員唐王朝的民兵部隊。
唐王朝在長安建立政權的時候，國內的主要敵對勢力有如下幾股。在京畿西北，位于唐王朝根據地能夠隨時予以打擊的距離以內的是甘肅叛亂者薛舉最初對唐王朝的軍事挑戰來自西北的叛亂者薛舉，他從617年年中以來控制著大部分甘肅地區，并且自己稱了皇帝。他曾經想自己奪取京師，但受到了這一年被突厥人支持的另一叛亂的牽制。當唐軍奪取隋都的時候，他的軍隊已進抵渭水，并且占領了附近的扶風，此地原為早期爆發兩次反隋叛亂的地方。618年初，李世民奉命率軍趕走了盤踞扶風的薛舉軍。他輕而易舉地打敗了由薛舉之子薛仁杲統率的軍隊，把他們往西趕到了甘肅邊境，但李世民馬上回師首都，沒有乘勝追擊。薛舉于是計劃與突厥軍及另一叛亂分子梁師都（他的根據地在陜西北部鄂爾多斯沙漠的邊境地帶）結成聯盟，準備向大興城進發，但是唐高祖用賄賂突厥領袖莫賀咄（他后來以頡利可汗著稱）的辦法挫敗了這個計劃。這一年的晚些時候，薛舉又單獨從西北向長安推進，他重創了派來抵抗他的劉文靜的唐軍以后，又去奪取首都。對唐軍來說很幸運的是，薛舉在618年陰歷八月計劃發動攻勢的前夕突然病故。其子薛仁杲繼續其事業，但薛仁杲同他父親的那些老臣宿將的關系鬧得很緊張，因而叛軍內部士氣低落。他從長安地區撤退，以鞏固他在西部地區的地位。618年的陰歷十一月，李世民包圍了薛仁杲的位于京師西北甘肅邊境的涇州營寨。戰敗后，薛仁杲的許多軍官帶著士卒投奔唐軍，他也不得不迅即投降李世民。他被解往長安處決。唐王朝在西邊的主要威脅已被解除。次年，甘肅的另一叛亂首領李軌
可是，東北平原——即河北—河南地區——的軍事形勢卻是最后決定唐王朝究竟成為一個地方政權，還是能夠統一全國的因素。唐王朝還只控制了甘肅、陜西及大部分山西地方：它擁有隋帝國的政治上和戰略上很重要的西北地帶，但其人口還不足隋代的四分之一。在隋代，大平原上的河北和河南是中國最富庶之地，它們養活了中國全部人口的半數以上。與此同時，淮河流域和華中的長江流域變成越來越重要的糧食產地，而運河的興建則把這些地區和京師連接了起來。沿著運河航線，在河南和河北南部建造了幾個大糧倉，以貯存糧食和備轉口運輸之用。它們都是早期幾次叛亂攻擊的目標。對于一個想重新統一全國的王朝來說，牢牢地控制富庶的東部平原是絕對不可少的。唐高祖的最強大的四大對手——即李密、王世充、宇文化及和竇建德——占據了這個地區的關鍵地帶。
隋朝將領王世充于617年年中被煬帝派來防守他的東都洛陽。當煬帝于618年初期被他的將軍宇文化及刺殺于江都的消息在這一年陰歷五月到達洛陽時，王世充擁立煬帝的另一幼孫楊侗繼位為隋朝傀儡皇帝，和李淵所立的傀儡皇帝一樣，也稱為恭帝（已見上述）。雖然叛亂者李密經過長期努力而仍然未能奪取洛陽，但他控制了洛陽周圍的許多地方，包括重要基地黎陽在內，而且還繼續威脅著洛陽本身。當在南方擁立另一位隋朝王子為傀儡皇帝的宇文化及率軍從江都北上向位于河南北部的李密的主要基地黎陽城進發時，王世充用計想使他們兩敗俱傷，自己坐收漁人之利。王世充的洛陽政府寬恕了李密，作為回報，李密應與王世充共同反對刺殺煬帝的人。李密必須保衛他的黎陽基地，同時他還相信，他能很好地利用這一緩和的關系，最后除掉王世充并控制整個河南-河北平原。因此，他接受了特赦，經過在洛陽的一段時間的調解以后，他率軍對軾君者打了幾次勝仗，摧毀了后者的大部分軍隊，并且強迫他向北撤退到大明府。
王世充因而越來越關心李密日益增長的勢力；可是李密受他的主使而得到從寬處理，在洛陽又獲致高官，并且對宇文化及連打了幾次勝仗。618年陰歷七月，他借口據報有人陰謀反對他，在洛陽發動了一次先發制人的突擊，清除了他的政敵，把李密拒之城外。雖然李密曾經擊退宇文化及，并迫使他從黎陽地區撤退到河北南部，但正如王世充所希望的那樣，他的兵力在戰斗中消耗過多。王世充在這時很細心地在洛陽集結了軍隊，他抓住時機猛烈地向李密已經削弱的軍隊發動了攻擊。根據一項記載，王世充有一個士兵酷似李密；王世充命將這士兵綁起來，在戰斗高潮中他把這士兵展示于李密軍前，李軍便潰不成軍。李密既已徹底戰敗，此時只得逃往長安托庇于唐王朝了。唐高祖在618年陰歷十月接受了李密及所率殘部的投降。王世充戰勝李密之后，得意洋洋，野心勃勃。他現在已完全控制洛陽，于是便任命了一批高級官員，其中包括隋朝大臣蘇威。619年陰歷四月，他廢除了傀儡隋恭帝，自己取而代之，改國號為鄭，并且建年號。最初，王世充因在戰場獲勝而得以實際上主宰河南全境，但后來由于他自己殘暴的統治和唐軍的壓力不斷加大而引起的內部紛爭，他不斷失利。621年初，他被迫退至洛陽城下，李世民圍城，并迅速使城中陷于斷糧之境。王世充認識到事態的嚴重，他這時想同他的叛亂伙伴竇建德結成聯盟。
竇建德是最早起兵反隋的叛亂者之一，他是在611年拿起武器的。到了這時，他勝利地占有了河北北部和山東的廣大地帶，并于617年在這里自稱夏王，建都于河北南部的洺州。他的政權因秩序良好，他本人又因禮賢下士和生活簡樸而被人稱道。619年初，他俘獲并斬殺了刺殺隋煬帝的宇文化及——此人曾先逃離李密，后來又從唐軍手中逃脫。這一年稍晚些時候，竇建德驅軍過河北西南部，打敗了唐高祖之從弟李神通所領的唐軍，并占領了原屬李密的強大據點和位于河南北部的黎陽倉。他曾受到王世充的攻擊，因為王世充認為他之占領黎陽是對自己領土的威脅，但是，他們雙方又感到有暫時聯合起來的必要。竇建德認識到，唐王朝如果攻取了洛陽，會使它在東北平原上獲致重大的軍事優勢，從而會危及他自己的生存。他因此同意帶領一支部隊去救援這座被圍困的城市。
李世民的策略是先攻較強大、但因長途行軍而疲憊不堪的竇建德，在打敗了竇建德之后再去對付王世充。621年陰歷五月，李世民大勝竇建德軍；竇建德本人負傷，并在戰斗中被俘。當竇建德于四天后被押到洛陽城下時，王世充已別無他路可走，只有投降唐軍。這一次違反了唐高祖一般寬待被俘對手的政策，竇建德在解往長安后被斬首，王世充則在放逐的途中被殺。
歸根到底，唐高祖在爭奪東北平原的斗爭中比他的敵手們占有很大的優勢。山西和陜西是很可以閉關自守而在軍事上比較安全的地區，他在這里能夠保存實力，蓄積資源，靜待對手力量的耗竭。反之，河北河南地區的叛亂者所處之地無天然防線，并且處于持續不斷的軍事壓力之下，這種軍事壓力來自互相征討，也來自日益強大的唐軍對他們的進攻。他們被迫將很多力量用于防御。甚至要在幾條戰線上分散兵力。結果，他們不能彼此發動有效的攻勢，特別是對唐軍不能發動這種攻勢。
攻占洛陽和東北平原的結果使國內的力量對比最后變為有利于唐高祖，因為他清除了他的最強大和最有組織的幾位敵手。但是，強大的叛亂軍隊無論在北方還是在南方都還在活動，而且時不時地有反對唐朝新政權的新集團參加他們的行列。在作為唐王朝老營的山西北部，劉武周建立了一個叛亂政權，它在622年以前一直困擾著太原府地區，并一再以突厥人為后援，入侵太原地方。
但是，對唐朝政權構成最嚴重的新挑戰的卻是在東部平原崛起的力量。竇建德的黨羽由于害怕遭到他們原來領袖同樣的命運，他們在621年后期在河北發動叛亂，其領袖是竇建德原來的一個將領劉黑闥。這次叛亂在623年初被平息，但這只是在劉黑闥重新從唐軍手中奪回了東北平原大片土地以后的事。不管怎樣，全帝國還是逐步地落入了唐王朝的永久統治之下。621年后期，前梁朝的皇室成員和自立為梁帝的蕭銑（他自617年起即控制了湖北的大部分、湖南、江西和廣東，因此是中國南部最強大的統治者），在長江中游他的首都岳州投降了唐軍。