西晋的八王之乱由朝堂之争走向天下大乱后，国家根本已经动摇。天下稍有见识的人都看到了这点，一位匈奴英雄因此萌发了新的希望。
关于匈奴，范文澜先生所著的中国通史上有这样的解释：
“公元前52年（汉宣帝甘露二年），匈奴呼韩邪单于率所部五千余落来降。公元50年，东汉光武帝使单于入居西河郡美稷县（美稷西晋时改名左国城，山西离石县东北）。匈奴人为汉守边，分散在沿边各郡县，与汉人杂处，受汉官统治，并得免纳赋税的待遇。此后户口繁殖。”
“入塞匈奴凡十九种，每种自有部落，不相混杂。其中屠各族最为豪贵，得统率诸种。刘姓是屠各种中最贵的一姓，还有呼衍（延）、卜、兰、乔四贵姓为刘姓辅佐。虽然匈奴人与汉人杂处，从事农业，已经是晋的臣民，但刘姓为首的贵姓，仍拥有传统的声威，号召力很大。”
500前，强盛的汉帝国曾给予匈奴一场毁灭性打击，使匈奴分为南北两部，北匈奴向西远遁不知去向，三百年后欧洲的史料中出现“匈人”，此“匈人”战力强悍，东征西讨，一时间搅乱了整个欧洲，从而产生多米诺骨牌效应，强大的罗马帝国因此而灭亡，“匈人”和匈奴是否有关系，史学界说法不一。
而南匈奴匈奴则由呼韩邪单于率领，内附汉庭，一直居住在河套一带，在汉朝的高压之下，虽然也饱受压迫，却也一直没有闹出什么大动静来，而且在文化上也被逐渐汉化。
公元216年，到了曹操时代，便把这支匈奴部族分成了五个部，即左、右、南、北、中部，各部的头人封为“帅”，立呼韩邪子孙（魏时改姓刘）为部帅，使右贤王去卑居平阳（山西临汾县），监护五部。晋武帝改部帅为都尉。左部所统约万余落居兹氏县（山西汾阳县），右部约6千余落居祁县（山西祁县），南部约3千余落居蒲子县（山西隰县），北部约4千余落居新兴县（山西忻县），中部约6千余落居大陵县（山西文水县）。同时，为了对这五部进行监督，每部有汉人充当司马。
东汉末年，匈奴部族中最强大的呼韩邪家族单于羌渠派遣他的儿子於扶罗帮助汉庭镇压黄巾，羌渠死后，於扶罗便率领他的部族留在中原，自立为单于，於扶罗死后，他的弟弟呼厨泉即位，封於扶罗的儿子刘豹为左贤王。这位刘豹，便是呼韩邪家族的第一任“刘”姓老大，他所统匈奴人不下3万户，再加其他内附的匈奴部落，总数当有数十万人。
这时的刘豹被曹操封为左部帅，率所部驻左国城及今天山西离石附近，刘豹本人在政治上倒没有特别突出的业绩，但他为中华民族的历史创造了一个伟大的儿子，即十六国匈奴汉赵的开国皇帝刘渊。