按照古籍記載，匈奴是一個古老的民族，其歷史可以追溯到夏商周三代。司馬遷在《史記·匈奴列傳》中記載：“匈奴，其先祖夏后氏之苗裔也，曰淳維。”關于匈奴的起源問題，班固在《漢書·匈奴傳》中幾乎全文照抄《史記》：“匈奴，其先夏后氏之苗裔，曰淳維。”三國時期的史家張晏稱，淳維是在商朝初年流亡北方的。樂產的《括地譜》則有更詳細的論述：“夏桀無道，湯放之鳴條，三年而死。其子獯粥妻桀之眾妾，避居北野，隨畜移徙，中國謂之匈奴。”一言以蔽之，在中國漢代和之前時代的文獻中，匈奴的先祖是商湯滅夏之后，逃亡北方草原的夏族殘余。司馬貞在《史記索隱·卷二十五》中雖然援引了這一說法，卻對這種說法提出了質疑：“其言夏后苗裔，或當然也。”
四個重要起源論
關于匈奴的起源一直眾說紛紜。古代學者因上古史料稀少，局限于索隱考據而無法深入研究。近現代學者則可以得到考古學、體質人類學、分子考古學等的幫助，在這一問題的研究上取得了豐富的成果。除了傳統的夏族后裔說之外，尚有如下幾種比較重要的說法：
第一，同種異名說。王國維先生在他的《鬼方昆夷獫狁考》中提出商朝時期的鬼方、昆夷、葷粥（Xūnyù，同“獯鬻”）、獫狁（Xiǎnyǔn，也作玁狁），春秋時期的戎、狄，戰國時期的胡等，皆與匈奴“同種”。此說為20世紀以來多數學者所支持。
第二，義渠說。蒙文通先生在《周秦少數民族研究》等作品中認為匈奴的先祖是義渠，理由是《史記·秦本紀》中記載，秦惠文王更元七年（公元前318年），“韓、趙、魏、燕、齊帥匈奴共攻秦”；而《戰國策·秦策二》記載，同年義渠“起兵襲秦，大敗秦人于李帛下”。兩史書互相參照，可知匈奴就是義渠。
第三，西來說。岑仲勉先生在《伊蘭之胡與匈奴之胡》中認為匈奴是“從西北徙來之突厥種”。孫次舟先生在《匈奴出現中國邊塞的時代》中亦認為匈奴為西來的游牧民族，于秦始皇二十六年（公元前221年）至三十三年（公元前214年）出現于中國北方邊境。
第四，北方草原民族說。此說最早由俄羅斯及蒙古國考古學家提出，在國內則創始于曹永年先生的《戰國歷史上的匈奴》。他認為先秦時代的匈奴只是當時北方許多不同族源的部落或種族中的一個，后來由于匈奴強大，草原各部族都被稱作匈奴（“皆以為匈奴”）。這一學說在20世紀80年代后得到許多學者的支持。
同種異名說
匈奴為夏后氏苗裔說不足為信，因為匈奴與夏族存在不同特征。第一，語言迥異。絕大多數學者認為匈奴語言屬于阿爾泰語系，只是尚不能確定其屬于突厥語族、通古斯語族還是蒙古語族，也有學者認為匈奴語屬于已經消亡的阿爾泰語系第四語族（亦鄰真）或三大語族形成前的“阿爾泰原語”（楊建新）。無論哪種可能，匈奴語都與華夏族所屬的漢藏語系漢語族（原始漢語）存在明顯差別。第二，體質不同。現挖掘出的匈奴墓葬中的遺骨顯示，匈奴人種雖有歐羅巴人種或遠東人種的成分，但以北亞蒙古人種（即古西伯利亞類型）為主，與東亞蒙古人種的華夏族明顯不同（參見朱泓《體質人類學》）。語言和血統迥異的兩個民族當然不可能是一脈相承，但是匈奴確實與夏族存在某種淵源，匈奴風俗中有華夏族的遺風，如祭祀龍（“五月大會龍城”“歲有三龍祠”）、祭祀日月（“單于朝出營，拜日之始生，夕拜月”）、尚黑（“不以墨黥其面，不得入穹廬”）等等。因此匈奴先祖和華夏族早有接觸固不待言，一部分北遷的華夏族在先秦時就融入匈奴聯盟也大有可能。
義渠說
義渠說缺乏依據。《史記》中所載秦惠文王更元七年匈奴參與五國伐秦之事為孤證，僅見于《秦本紀》，為其他史料所不載。而且匈奴即便參加了此次合縱攻秦行動，也不能證明匈奴就是義渠，因為兩國可以同時對秦國用兵。何況義渠流行火葬，風俗和崇尚土葬的匈奴格格不入。
西來說
匈奴西來說，在匈奴進入中國北方邊疆的時間和路線這一關鍵問題上，或與其他史料矛盾，或含糊其詞，均難以確證。
王國維主張的同種異名說，將鬼方、昆夷、獯鬻、玁狁、戎、狄、胡都看作匈奴民族的“曾用名”，則是混淆了兩類異族之間的區別。綜合上古文獻、甲骨文、金文和考古學的成果可知，鬼方、昆夷、獯鬻、玁狁、犬戎等戎狄系民族生活在冀北、晉北、陜北、寧夏、隴東等地，這一地帶先秦時以森林草原地貌為主，屬于農牧交錯帶；而匈奴、林胡、樓煩、東胡、月氏、丁零、屈射等草原游牧民族的生活區域則在其北面的蒙古高原、河西走廊、阿爾泰山、天山北路、外貝加爾乃至南西伯利亞地區。
北方草原民族說
正如拉鐵摩爾在《中國的亞洲內陸邊疆》中早已指出的，戎狄并非草原游牧民族，他們和上古的華夏民族一樣從事農牧混合經濟并兼營狩獵。如《左傳》記載，襄公十四年（公元前559年）瓜州（今河南、山西、陜西交界處）之戎被秦國驅逐后，投奔晉國，被賜予“狐貍所居，豺狼所嗥”的“南鄙之田”。戎人“除翦其荊棘，驅其狐貍豺狼”，開墾荒地從事農業生產，也修建自己的城邑。如《后漢書·西羌傳》提到義渠、大荔筑城數十。他們在戰爭中也以戰車和步兵為主，如康王時期西周對鬼方用兵，一次戰役就俘獲鬼方軍隊的戰車一百余輛；又如昭公元年（公元前541年）晉軍與無終及群狄作戰時，對方以步兵為主。這些特征都與“逐水草遷徙，無城郭常居耕田之業”“士力能彎弓，盡為甲騎”的匈奴迥異，而與華夏民族更為相近。
而且戎狄諸部族自上古時期開始就與華夏族有著時戰時和、時親時離的深厚淵源。早在五帝時代，黃帝就曾“北逐葷粥”。殷商時，武丁曾出擊鬼方，經過三年商軍才戰勝了鬼方。周人與戎狄關系更為密切，太王亶父時期周人曾被戎狄驅趕到岐山（今寶雞東北）；文王時攻伐畎（quǎn）夷；武王時將戎夷放逐到“涇、洛之北，以時入貢，命曰荒服”，一度征服了戎狄；但是周穆王在位時，戎狄和周人開始交戰，穆王雖然攻打西戎勝利，獲得四白狼、四白鹿以歸，但周人與戎狄之間的盟友關系也徹底告終。終西周一朝，既有戎狄的入侵讓周人損失慘重：“靡室靡家，獫允之故”，“豈不日戒，獫允孔棘”；也有宣王中興時對戎狄的打擊：“薄伐獫狁，至于太原”，“出車彭彭，城彼朔方”。最終，西周因儲位之爭而與西戎中最強大的申國（周平王的母族）反目成仇，被申、曾和西戎的聯軍消滅，周幽王父子在驪山腳下被戎人殺害。申侯引狼入室，之后戎人奪取了涇河與渭河之間的宗周故土。
春秋初期，戎狄一度對中原諸國咄咄逼人。山戎曾越過燕國攻打齊國，齊釐公（ 齊僖公）率軍在首都郊區才將其擊退。44年之后，山戎又攻打燕國，燕國向齊國求救，齊桓公率軍北伐山戎，將其擊退。又過了二十余年，戎狄居然兵臨東周首都洛邑（今河南洛陽），攻打周襄王，將襄王驅逐到鄭國。戎狄還擁立了襄王的異母弟弟王子帶為天子，奪取了陸渾（今洛陽伊川），勢力范圍向東滲透到衛國。四年后，得晉文公出兵相助，戎狄才被趕走，王子帶被誅殺，襄王之子得以繼位。據《左傳》記載，自閔公到宣公（公元前7世紀中葉到公元前6世紀初），70年間，戎狄曾兩次攻破成周，一度滅亡邢國、衛國、溫國，多次侵入晉國、齊國、魯國、鄭國。其后，晉文公和秦穆公先后成為諸侯霸主，高舉尊王攘夷的旗號。秦國和晉國也就成為與戎狄交戰的主力。他們的主要敵人是在圜河、洛河之間的赤狄、白狄，在隴山（今六盤山）以西的綿諸、緄戎、狄、獂，在岐山、梁山、涇水、漆水之北的義渠、大荔、烏氏、朐衍。這場戰爭延續了數百年，直到戰國中期，隨著中山和義渠的覆滅才以華夏族的勝利而告終結。
另一方面，戎狄也和華夏有著密切的往來，彼此通婚不絕、血脈相通。西周伐商時西戎是其重要盟友，西周王室先后曾有兩位戎人王后，東周襄王又曾娶狄女為王后。晉襄公時，瓜州之戎就稱自己是晉國“不侵不叛之臣”。晉悼公曾派魏絳“和戎狄”，讓很多戎狄部落“遂服于晉”。
到了司馬遷所處的西漢中期，離匈奴出現于中原視野的戰國后期不過兩百年時間，卻已經不清楚匈奴的歷史（“其傳世不可得而次云”），何況其他了。
當然戎狄和匈奴的關系也是很重要的，因為他們構成了匈奴的重要族源。雖然匈奴起源于草原游牧民族之說得到越來越多的支持，但是其具體的形成過程依舊充滿疑團。
公元前1000年左右（西周前期），受氣候的干冷化、人口的增長、騎馬技術的成熟和冶金技術的進步等因素的影響，亞歐大草原的農牧混合人群普遍向游牧生活過渡。為了追逐豐美的草場，不斷有游牧部落從寒冷的北亞地區呼嘯南下。在西遼河流域和鄂爾多斯高地，龍山時代遺留下來的農業群落逐漸消亡或南遷，千年間當地人跡罕至，殘存的居民生活也走向游牧化。約公元前600年（春秋晚期），來自今蒙古國和西伯利亞的游牧部落也遷徙到這一地區，征服（或融合）了當地居民，形成了林胡、樓煩、東胡等游牧部族。尤其是前者，創造了輝煌的鄂爾多斯青銅器文化。其特征為隨葬動物紋飾的青銅裝飾品和大量青銅武器、馬具，并有大量的牛馬羊殉葬，而罕見陶器和農業工具。
同一時期，由于政治集權化、精耕灌溉農業的興起和華夏民族意識的勃興，實現部分統一的華夏諸國，尤其是秦、趙、燕三國，不斷向北擴張。大批戎狄小國、部落被消滅，其民眾不是融于華夏族，就是北逃到農牧交錯地帶。在長途逃亡中，他們無法帶走房屋、農田和大部分家具，唯一能帶走的財產就是牲畜和武器。這些北逃者雖然曾經從事農業并建筑城邑，但此時他們只能依賴畜牧和掠奪為生。幾代人之后，他們已經喪失祖先原本有的農業定居生活技能和意識，而和蒙古高原南下的游牧部落無異。至遲到戰國中期，戎狄作為一個獨立的群體消亡，融入華夏和胡人中。農耕世界和游牧世界直接走向接觸和對抗。這也是戰國中期燕、趙、秦三國與胡人交戰和建設長城的大背景。
但是，螳螂捕蟬黃雀在后。原本生活在今蒙古國中部偏北杭愛山一帶的匈奴本部也從蒙古草原南下。他們在轉變為游牧民族之后，屬于石板墓文化的一部分。因為某種原因（可能是追尋溫暖肥沃的牧場或是被鄰近的游牧部落打敗），他們于春秋戰國之交南下，抵達陰山地帶。由于林胡和樓煩在與秦國、趙國的戰爭中遭受重創，更為強悍的匈奴部落趁機征服了林胡和樓煩，并吸納了當地的胡人及北逃的戎狄，建立了一個強大的部落聯盟。匈奴的統治部族雖然來自漠北，但其主要文化卻傳承了林胡、樓煩的鄂爾多斯青銅器文化，并且吸納了戎狄乃至一部分華夏族的文化因素。雖然后來這些原本血統不同、生產方式不同、文化不同的部族都被稱作匈奴，但是其在種族和文化方面始終存在很大的差異。之后南匈奴和北匈奴的分裂也與此有關：南匈奴人種中有較多的東亞蒙古人種成分，與以北亞蒙古人種為主的北匈奴不同。
