叔宇文贊為上柱國、右大丞相（無實權），任命楊堅當左大丞相，百官全歸楊堅節制。
宇文贇剛剛死去，國內人心浮動，楊堅竭力拉攏禁衛官盧賁，留在左右當貼身保鏢，出任左大丞相之後，讓盧賁集結禁衛軍，召集百官在大殿開會，告訴他們：「想追求財富權勢的，跟著我來。」
百官看著楊堅身邊的一大幫全副武裝的禁衛軍，誰還敢提反對意見，只得聽從楊堅安排，於是楊堅的地位正式確立，設置丞相府，任命盧賁負責丞相府的安全工作，任命鄭譯為丞相府秘書長，劉昉為丞相府軍政官，李德林為丞相府助理秘書。
教育部秘書官高熲，為人聰慧，了解軍事，楊堅打算引他進丞相府工作，派族侄楊惠前往傳達這一訊息，高熲興奮地說：「我願接受驅使，即令楊公大事不成，我高熲全族屠滅，也在所不辭。」欣然投入丞相府任職。
楊堅上位之後，盡力革除宇文贇時代的暴政，刪改舊日刑法，另行制定新法，厲行節約，使國內風氣大變。
作為臣屬，走到楊堅這一步，完全沒有奪權的想法是絕無可能的，楊堅的妻子獨孤氏也勸丈夫，開弓沒有回頭箭，已經騎在老上身上，就不要妄想下來了。
楊堅深以為然，但他畢竟根基不厚，只是憑藉幾個關鍵的人脈資源，才占據高位，如何讓全國信服，是最大的問題——或者說，如何除掉幾個大塊頭的敵人，才是當務之急。
相州軍區總司令尉遲迥，地位尊貴，聲望隆重，楊堅知道如果想奪權，必須過了尉遲迥這一關，於是派尉遲迥的侄子尉遲惇，帶著宇文闡的詔書，前往徵召尉遲迥回京參加葬禮，打算趁機殺了他，同時調任韋孝寬為相州州長。
尉遲迥方面也有所圖謀，知道楊堅將對皇族不利，準備興兵討伐。
這時接替尉遲迥職務的韋孝寬剛剛抵達朝歌，尉遲迥派部屬賀蘭貴，攜帶書信詢問韋孝寬對時局的看法，韋孝寬在談話中得知尉遲迥有反叛的意思，於是聲稱有病，放慢前進的速度，同時派人飛馬前往相州偵察動靜。
韋孝寬的侄子韋藝，正在尉遲迥手下做事，尉遲迥讓韋藝前往迎接韋孝寬，韋孝寬說服韋藝，二人一同向西撤退，每經過一個驛站，韋孝寬就把所有馬匹驅走，吩咐驛官說：「蜀公隨後就到，請火速準備酒菜食物。」
尉遲迥很得知韋孝寬逃跑的消息，立即派梁子康率數百騎追趕，追到驛站，全都碰上盛大的筵席，而且沒有可以替換的馬，不能迅速進軍。韋孝寬和韋藝得以逃脫。
韋孝寬把得知的機密消息上報中央，楊堅再派偵察官破六韓裒去見尉遲迥，傳達中央指令，並秘密寫信給相州軍區司令部秘書長晉昶，讓他們暗中準備。
尉遲迥直接斬了晉昶和破六韓裒，集合文武官員和各界人士，登上北門發表演講：「楊堅借著他是皇后父親的權勢，挾持幼主，作威作福，篡奪行跡連行路的人都看得清楚，我與宇文皇族有外甥與舅父的情誼，身兼將相，先帝把我安置在此，本來就是要我負起安定國家、扶持傾危的重大責任，我今天特別集結忠義勇敢之士，救國救民，各位意下如何！」
大家齊聲響應，尉遲迥於是自稱全國各軍區最高總司令，行使皇帝職權，設立臨時中央政府，正式向楊堅宣戰。
6月10日，楊堅動員關中軍隊，讓韋孝寬當大軍元帥，梁士彥、元諧、宇文忻、宇文述、崔弘度、楊素、李詢，都當大軍作戰司令官，一起討伐尉遲迥。
宮廷部會計司長楊尚希，之前去山東宣慰安撫官民，尉遲迥起兵之後，緊急返回長安，楊堅讓他率領楊家軍三千人，鎮守潼關。
五位親王本就有心排除楊堅，得知尉遲迥起兵，立即聯合京畿衛戍總司令宇文賢，準備暗殺楊堅。
楊堅提前得到消息，把宇文賢及其三個兒子斬首，但對五位親王政變的消息暫時封鎖，以防更大的變故，然後逐一將他們清除。
親王們到了楊堅的地盤，總是很難有所作為，楊堅真正擔心只是一個尉遲迥而已。
韋孝寬率軍抵達永橋城，將領們要求立即攻擊，韋孝寬說：「永橋城既小而又堅固，如果不能攻克，就傷害我們的聲威，只要擊破他們的主力，一個小城能出什麼花樣。」率軍繞過武陟。
尉遲迥派兒子尉
