劉淵自稱漢室后裔，和劉備自稱中山靖王后裔是一個意思，打著正統旗號，爭取人心。劉淵趁晉朝內亂，秘密聯絡五部，劉淵被擁立為大單于，自己的家底迅速壯大，由于劉淵很得人心，歸順他的人又多，勢力大增，完全有能力消滅奄奄一息的西晉。
劉淵在這種復雜的形勢下，順民意，建立漢朝政權，并追尊劉禪為孝懷皇帝，祭祀漢朝有名的皇帝，完全把自己當成正統的劉姓宗族。
公元304年十月，劉淵在左國城建國稱漢，自稱漢王，改元元熙，追尊蜀漢后主劉禪為孝懷皇帝。
劉宣等人是一心要復呼韓邪之業，劉淵卻說：呼韓邪何足效哉！他要做的事，上承漢高之業，下不失為魏氏。
其心目中的英雄是劉邦、曹操。他頭腦很清楚，知道如果亮出匈奴旗號，未必會受漢人擁護，所以決定利用曾有的匈漢和親關系，建國稱漢，追尊后主。
劉淵以臣屬口吻發表文告，從我太祖高皇帝劉邦說起，歷敘兩漢盛衰，而且為了表示尊漢，不僅痛責心目中的偶像曹操，也對昭烈皇帝劉備未能完成復興大業深表惋惜。
劉淵要重建漢朝，即是要在宗廟不血食四十年之后的今天，紹修三祖劉邦、劉秀、劉備之業。眾人頗為贊許點了點頭：劉淵這一手玩的不錯，能拉攏不少民心。
他的崛起和八王之亂脫不開關系，晉武帝司馬炎選擇一個癡呆兒做皇帝，皇帝無能，被皇后賈南風把持朝政，司馬氏其他子孫心有不甘，發動八王之亂，當時的成都王司馬穎和劉淵結為同盟。
他許諾劉淵能建立國家，同樣的匈奴人必須幫他奪取江山，不得不說司馬穎的想法幼稚，非我族類，必有異心
當時北方有五族，匈奴、鮮卑、羯族、氐族、羌族，其中匈奴劉淵的勢力最大，其他四族不得不依附劉淵，羽翼已成的劉淵不甘心幫助司馬穎奪取江山。
巧借幫助司馬穎奪取江山的名義，劉淵大舉進攻西晉，一時之間洛陽震動，由于八王之亂西晉內耗嚴重，根本無法抵達擋劉淵的進攻。
一時之間西晉節節敗退，偌大的晉朝竟無一人能平定匈奴叛亂，匈奴連戰連勝，一直打到長安。
就在滅亡西晉之際，劉淵病死，其子劉聰繼位，劉聰繼位后攻勢不減，公元316年，劉聰攻破長安，俘虜當時的皇帝，至此西晉滅亡。
也是從這時起，北方大地徹底盡歸匈奴統治，隨后劉聰身死，又有大將石勒代替劉聰，一代又一代，可以說從他開始，北方開啟十六國時代。
