西晉被劉聰滅亡后，晉朝在南方還有大片領土。當初，晉愍帝被俘前曾留下遺詔，一且北方陷落，讓鎮守建康(今江蘇南京)的瑯邪王司馬睿繼承帝位。司馬睿的名望在當時并不高，但他有個最知心的朋友叫王導，很有計謀。司馬睿對他也是言聽計從。
當年，司馬睿剛到建業時，當地的一些大土族 嫌他名望低瞧不起他，司馬睿對此深感不安。為了提高自己的聲望，就找王導商量辦法。王導的堂兄王敦當時是揚州刺史，很有成就，王導就把他請到建康一起商量這件事，于是二人想出一個辦法。
每年的三月初三，按當地的風俗是禊節，百姓和當地官員在這一天都要到江邊祈福消災。這一天，王導為司馬睿擺出了一個十分壯觀的儀仗隊伍。當地人從沒見過這么有氣勢的排場，一下子轟動了。那些大士族從門內悄悄張望，看到王導、王教這樣的名土是那樣地尊敬司馬睿，都大吃驚，覺得這個人 一定非常了不起，于是紛紛爭先恐后拜見他，從此，司馬睿的名望下子提高了。 不久，在王導的倡議下，司馬睿又請了當地最有名望的顧榮、賀循出來做官，顧、賀二人很高興答應了。那些小士族看到這么多有名望的人都擁護司馬睿，就都追捧他。
就在北方大亂時，當地有很多王族為了躲避禍亂都逃到了江南。司馬睿聽從了王導的建議，就把其中有才學的人吸收到他的王府中來。這樣共有一百零六人在司馬睿的手下做官。司馬睿對王導十分感激，稱他是自己的“蕭何”。
公元317年，司馬睿在建康即位，重建晉朝。立帝號為元帝。這就是歷史上的東晉。司馬睿當了晉元帝后，立即封王導為尚書，掌管朝內切大事，任王教為大將軍，掌管東晉的軍隊，又把王家很多人都封了重要官職。大書法家王羲之就出生在這個大家族。
王教掌權之后，居功自做，有時甚至都不把晉元帝放在眼里。晉元帝也看出了這個跡象，就另啟用了劉隗和刁協做重臣，并斷漸疏遠了王氏兄弟。
