司馬穎和司馬顒相繼死去，司馬越從此再無皇族內部的對手，但他畢竟根基不厚，雖有幾個弟弟占據國家要塞，可仍不能滿足統帥全國的需要，於是一些世家大族順理成章地成了他拉攏的對象。
提起世家大族，琅邪王氏是當之無愧的老大哥，而此時王家的老大哥王戎已經病死，王戎的堂弟王衍很快就擔負起了家族首腦的重任，在被司馬越提拔到權力中樞之後，把自家人全都調到了重要的職位上，他的弟弟王澄被任命為荊州軍區司令長官，接替剛剛死去的劉弘，堂弟王敦則為青州督導官。用王衍自己的話說，荊州有長江漢水作屏障，青州又有大海的險阻，再加上首都得天獨厚的各樣資源，就像狡兔三窟一樣，三兄弟足以應對一切變化的紛亂局勢。
王衍果然一直都沒有變，自始至終都是為了自己的切身利益著想，什麼天下蒼生什麼百姓禍福，都與他無關，雖然在其位，但向來不謀其政。
他的另一個堂弟王導也沒閒著，認為北方亂火不斷，於是建議琅邪王司馬睿請命到江南發展，一旦北方淪陷，至少在南方也有個安身立命之所。
這樣北方有司馬越與王衍，南方有司馬睿和王導，王與馬共天下的格局漸漸展開。
就在司馬衷死後，國家繼承人成了最大的問題。司馬越力排眾議，將22歲的司馬熾立為皇帝，他自己則擔任皇家師傅，總理朝政。
當年的皇太子司馬覃也是皇帝的有力競爭者，但司馬越認為司馬覃雖然年紀小，但很聰慧，幾年之後也許很難控制，相反司馬熾雖然已經成年，但此人胸無大志，是更佳的皇帝人選。王衍也表達了同樣的意思，短期來看應該立司馬覃，若要長久控制朝局，就必須立司馬熾。
可是朝廷中很多人卻都是站在司馬覃這一方，以周穆和諸葛玫為首的政府官吏和監察官都主張立前任皇太子為帝，因為立司馬熾為皇太弟是當初張方的主意，現在舊人已逝，新人理當進行更加恰當的選擇。
羊獻容也希望司馬覃能當皇帝，她幾經周折終於混到了皇太后的級別，而如果司馬熾當了皇帝，那她就是皇帝的嫂子，成不了皇太后了。這位幾個月前還為性命擔憂的女人，不覺已開始為自己的前途謀劃了，權力的誘惑就是這麼讓人難以抗拒。
結果司馬越對這些主張全不理會，和王衍打定主意扶持司馬熾。顯然他們是有著長遠打算的，可惜歷史並沒有給他們留那麼多時間。
周穆和諸葛玫看不清朝廷的形勢，幾次向司馬越上書，司馬越終於露出了殺機，所謂順我者吃香喝辣，逆我者全成渣渣，很快他就找藉口將二人斬首。羊獻容本來還想堅持一下，但眼見如此，保命要緊，也就不再多說了，老老實實地當自己的惠皇后。
306年11月21日，司馬熾正式登極稱帝，成了晉王朝第三位正統皇帝，即晉懷帝。司馬倫雖也曾稱帝，但畢竟是自己篡位，並沒有主流官員的同意和擁護，而且不久就倒台被殺，因此不能算在晉王朝的皇帝之列。
洛陽安定下來之後，司馬越開始在各地布局，將自己的心腹全都派駐在關鍵位置，司馬虓的秘書長劉輿因為能力出眾，往往把混亂的政事梳理的頭頭是道，因此也得到司馬越的賞識，被提拔為司馬越的左秘書長，軍中事務和國家決策都交由他處理。
劉輿到任之後首先向司馬越分析了北方邊境的局勢，認為那裡和匈奴、鮮卑等許多異族部落毗鄰，充滿了變數，是全國最危險的地方，應當派遣智勇無雙的名將前往駐守。於是劉輿的弟弟劉琨眾望所歸地擔任并州督導官一職，原來鎮守并州的東燕王司馬騰則升為車騎將軍，兼任鄴城軍區司令長官，鎮守鄴城。
因為劉淵的漢趙政權不斷出兵挑釁，戰火使得多數人民流離失所，莊稼也漸漸荒蕪，并州的許多百姓被迫跟著司馬騰逃往冀州尋找活路，成了「乞活」一族，而剩下的兩萬多戶人家也是使勁渾身解數以填飽肚子，偷盜搶劫事件頻發。劉琨到任之後，發現當地已是一片狼籍，只得一點點地安撫留下的居民，並招徠遠方流竄的難民。
效果還是有的，只是並沒有特別顯著，并州已經病入膏肓了。
到了次年307年2月，東面的青州、徐州也出現了問題。
趁亂造反的變民首領王彌自稱大將軍，殺了當地郡長，
