在中原的北方，居住着山戎、猃狁、荤粥等异族。他们与中原族群不同，披头散发，衣襟左开，过着随畜牧而迁徙的生活。
自古中原族群的服饰传统是生右死左，日常衣服交领的开口是右衽，左衽压右衽，领子呈y形；发式是束发，不披发。只有死去的人才使用左衽、披发，以示阴阳有别。
战国时期，中原各国忙于征战，无暇北顾，这些游牧民族相互兼并融合，像滚雪球一样壮大起来，不断袭掠中原边郡，被中原称为匈奴，意为“凶恶的奴隶”，他们则自称为“胡人”。
赵武灵王为了强兵兴国，抗衡北方异族，推行“胡服骑射”。战国末年，赵国名将李牧出动战车一千三百乘、骑兵一万三千人、步兵五万、弓箭手十万，与匈奴会战，大破匈奴十余万骑，从此匈奴十余年不敢南犯。
实际上，当时中原北方除了匈奴外，还有众多古老的游牧民族，其中最为主要的有两大部族联盟，一个是居住在匈奴以东的东胡，另一个是在西北部的月氏。
匈奴的兴起，是匈奴国的创立者头曼及其长子冒顿统治的结果。起初，东胡强而月氏盛，中原地区又处于大秦统治之下，在相当长的时期内，匈奴势力一直被局限在阴山至河套以北一带。
头曼以匈奴部落联盟为基础，征服了草原上的诸部落而建立起匈奴国，自诩为单于，意为“广大”。匈奴国分为中央王庭、东部的左贤王和西部的右贤王，控制着从里海到长城的广大地域，包括今蒙古国、俄罗斯的西伯利亚、中亚北部、中国东北等地区。
公元前二一四年，即大秦八年，始皇帝统一中原后，派遣大将军蒙恬统率三十万大军北击匈奴。蒙恬统领主力军从上郡（今陕西榆林市南）北出长城从东面进攻匈奴，杨翁子率偏师由肖关（今宁夏固原东南）出长城从西面进攻。
匈奴战败逃窜，秦军成功占领了河南地（今内蒙古乌加河以南及伊克昭盟地），自榆中（今内蒙古伊金霍洛旗以北）至阴山沿河置四十四个县。然而，匈奴不改本性，继续袭扰不断。
次年秋天，大将军蒙恬又率军北渡黄河，取高阙（内蒙古狼山中部计兰山口），攻占阳山（内蒙古乌加河北的狼山、阴山）、北假（乌加河以南夹山带河地区），迫使匈奴头曼单于远走大漠以北七百里，不敢南下牧马。
大秦随后在匈奴世居的河南地置九原郡，郡治九原（今内蒙古包头市西北）。蒙恬奉命迁徙人民充实边县垦守，修筑了西起临洮（今甘肃岷县），东到辽东的万里长城，把原燕、赵、秦长城连为一体。长城利用地形，藉着天险，设置要塞，有力遏制了匈奴的南进，基本解除了匈奴的威胁。
公元前二零九年，即大秦十三年，陈胜、吴广在大泽乡起乱。大秦帝国忙于镇压“楚沛”之乱，被蒙恬赶走的匈奴得到了修养生息的时间，逐渐强盛起来，趁机夺去了河套地及朝那（今宁夏固原市东南）、肤施（今陕西榆林市南鱼河堡附近）等郡县，又开始进犯北方边境，袭扰中原地区。
公元前一九七年，即大秦二十五年，守边大将陈豨叛变投靠匈奴，冒顿单于挥师南下，进入雁门关。
是年冬，始皇帝以太子扶苏为最高统率，调集三十二万关中大军出征匈奴，同时镇压陈豨叛乱。秦军屡战屡胜，扶苏轻敌冒进，被匈奴围困于白登山七天七夜，幸亏周勃不顾一切地率军前来救援，方得以解围。
冒顿是第二任单于，头曼单于的长子。在他还是单于正统继承人时，因头曼单于所爱的阏氏生了个小儿子，头曼单于想废冒顿而立小儿子为太子，于是便让冒顿到月氏去当人质。
当时，月氏势力强大，与蒙古高原东部的东胡从东、西两面胁迫游牧于中部的匈奴人。头曼单于把太子冒顿送到月氏当人质，几乎是置他于死地，可谓一石二鸟。
冒顿刚到月氏不久，头曼单于就迫不及待地露出他的险恶用心，率大军急攻月氏。月氏当然不干，第一件事就是要杀掉人质冒顿太子。可是，冒顿无意中听说两军发生交战，二话不说杀了身边的月氏卫兵，夺了快马，一口气逃回了匈奴。
头曼单于本以为冒顿必死无疑。冒顿回到匈奴后，头曼单于只好假惺惺地对他的机智和勇壮大加赞赏，又令他统领一万骑兵与月氏交战。没想到，冒顿显露出头曼单于意想不到的军事才能，经过月匈一战，不仅自己毫发未损，部下的骑兵队伍还壮大起来。
冒顿早已看清一切，决心以怨报怨，开始处心积虑地谋害其父亲头曼单于。他为此制造了一种能够发出响声的箭，下令凡是其响箭所射的目标，无论是什么，所有部下都必须紧随而射，否则就地斩首。又采取近乎绝情的手段训练部下对他的忠诚。
开始，部下跟随他外出射猎鸟兽，一不留神，没有紧跟响箭射击的，立即被他残忍斩首。不久，冒顿以响箭射击自己的爱马，部下不敢一起射的，也被他当场处死。过了些日子，冷血的冒顿竟然用响箭射自己的妻子，有的部下吓得直冒冷汗，瞄了半天都不敢松手射出箭，冒顿再次无情地将他们杀害。又过了些日子，冒顿与父亲头曼单于一起外出打猎，趁着头曼单于下马回帐内休息时，他搭弓射出响箭，部下条件反射地抽出箭矢，齐刷刷将头曼单于的宝马射杀。
听到凄厉的马嘶声，头曼单于掀开帐帘，准备出来看个究竟。冒顿觉得对部下的训练已达到了目的，便决然地将响箭射向头曼单于，左右之人毫不迟疑，眨眼间头曼单于身中数箭，当场毙命。
冒顿下令部下将随从大臣监管起来，又将不服从的大臣当场杀死。在场的单于警卫不知所措，纷纷放下兵器，跪地求饶。冒顿马不停蹄地率部下前往单于大帐，把他的后母及弟弟射杀，自立为单于。
冒顿继位后，东胡王看不起这个杀父夺位的质子，便故意派使者前去侮辱他，索要其父亲的千里马。使者当着众大臣的面，对冒顿道：“我家大王一直敬重你父亲是草原上的汉子，听说他死得好惨，无比伤心难过。因此特让我到这里来，将头曼单于驰骋沙场的千里马带回去好生照料，以表敬意和怀念。”
“岂有此理！”“混蛋！”群臣破口大骂，激烈反对。冒顿内心也是一万只草泥马奔腾而过，但想到自己继位不久，立足未稳，只好强颜笑了笑，答应了使者的要求，将千里马送给了东胡。
东胡王还不过瘾，又派使者索要单于阏氏。虽说在匈奴人眼里，女人连破衣服还不如，但这可是关系面子的问题，即便自己不穿，糟蹋了，也不会白白送给别人，更别说是单于的女人。匈奴大臣群情忿怒，都觉得东胡王实在欺人太甚，请求立即出兵攻打东胡，但冒顿仍装作无所谓，将自己喜爱的阏氏送给了东胡王。
自此，东胡王认为冒顿软弱可欺，不再将他放在眼里。冒顿乘机稳固国内统治，极力扩充军备，开始对外扩张和复仇。
他第一个发兵突袭屡屡侮辱他的东胡，东胡因为轻视匈奴，毫无防备，仓促应战中被匈奴大败，东胡王被杀，匈奴俘虏掠夺了东胡的百姓和牲畜财物，东胡被彻底消灭。在大败东胡王之后，冒顿乘胜西攻河西走廊雍州的月氏，迫使月氏人往西迁徙。
在解决了东胡、月氏的威胁后，冒顿带领匈奴继续征服了楼兰、乌孙、呼揭等二十余国，控制了西域大部分地区。向北征服了浑窳、屈射、丁零、鬲昆、薪犁等国，向南兼并了楼烦、白羊河南王之辖地，重新占领了蒙恬所夺的河套以南地。
至此，匈奴居有了南起阴山、北抵贝加尔湖、东达辽河、西逾葱岭的广大地区，号称将诸引弓之民并为一家，拥有控弦之士三十余万，成为北方最强大的族群，同时也成为中原大秦帝国的心腹大患。
