河套以南地区气候温和，适于驯养骏马。秦末，该地被匈奴夺取后，匈奴骑兵经此南下，一日即可驰至长安。所以汉武帝的第一个进攻目标，就指向了河套以南地区。夺取此地，既能解除长安北方的威胁，更能作为进攻匈奴的前线基地。
元朔二年（前127）春季，匈奴入侵上谷、渔阳等郡，杀掠吏民千余人。汉武帝趁着胡骑东进之机，避实就虚，派车骑将军卫青、将军李息等部由云中出发，沿黄河河套进行深远迂回，直指陇西。此战出敌不意，汉军从匈奴右贤王和白羊王、楼烦王领地中间穿插而过，最终包围白羊、楼烦两王，予其沉重打击。汉军大获全胜，斩首2 300级，俘获3 000余人，牛羊百余万头。这就是西汉对匈奴三大战役中的“漠南战役”。战后，武帝在河套以南地区置朔方郡，筑朔方城（今内蒙古乌特拉前旗东南），并重修已经毁弃的秦代长城。
就在汉朝从守势转变为攻势的时候，匈奴内部却发生了分裂。元朔三年（前126）冬，匈奴军臣单于去世，其弟右谷蠡王伊稚斜自立为单于。匈奴群王，单于以下，以左、右贤王最为尊贵。朔方郡建立后，恼羞成怒的右贤王遂屡屡南下，侵扰边境。元朔五年（前124），汉武帝将兵锋直指匈奴右贤王部。他用声东击西之策，派将军李息、张次公率数万人从右北平出击，牵制东方的匈奴军队；同时以车骑将军卫青率3万精骑从高阙（今内蒙古潮格旗东南）出发，游击将军苏建、强弩将军李沮、骑将军公孙敖、轻车将军李蔡从朔方出发，远程奔袭右贤王王庭。汉军借着夜色的掩护悄悄完成了对匈奴右贤王的合围，到半夜发起进攻。正在寻欢作乐的匈奴右贤王眼见汉兵从天而降，不禁魂飞魄散，领着百余名骑兵仓皇而逃。此役活捉右贤王麾下裨小王十余人，虏获男女1.5万余人，辎重物资无数。得到胜利消息后，武帝大喜，立刻派使节持大将军印，到军中拜卫青为大将军，授命他统帅诸军，其部下七人封侯。
成功袭击右贤王部，斩断了匈奴单于的一条臂膀。为了报复，更为了扭转战局，伊稚斜单于更加频繁地南下侵扰。元朔六年（前123）二月，武帝命大将军卫青率中将军公孙敖、左将军公孙贺、前将军赵信、右将军苏建、后将军李广、强弩将军李沮等部，共十余万人，由定襄出发，北伐匈奴。卫青出塞后不久，就遭遇单于主力，打了一次击溃战，杀敌数千人，随即返回定襄、云中、雁门休养。四月，卫青再次出塞远征，战斗结果，胜负参半；苏建部伤亡殆尽；赵信原是归降的匈奴小王，兵败后又投降匈奴；只有卫青再遇匈奴主力，歼灭万余人。此次战役，双方可谓打了个平手，但有一员年轻将领却从中脱颖而出，那就是卫青的外甥霍去病。霍去病跟随卫青北征，率800骑前出大军数里，杀敌2 000余人，战功冠于全军，被武帝加封为冠军侯——此时霍去病年仅18岁。
此前不久，张骞第一次出使西域归来，向武帝禀报说：“西域诸国也都苦于匈奴的侵扰，如果我们与其联合，就可以给匈奴以沉重打击。”武帝遂决定打通河西走廊，远通西域。元狩二年（前121）春季，武帝派骠骑将军霍去病率一万精骑突袭驻扎在河西的匈奴军。此时匈奴主力已经远遁漠北，霍去病遂长驱直入，从陇西出发向西北挺进，大破匈奴浑邪王、休屠王所部，杀折兰王、卢侯王，俘虏浑邪王的儿子、相国、都尉等，抢走休屠王的祭天金人，总计斩、俘8 960余人。这就是历史上著名的“河西战役”，通过此役，河西走廊被一举打通。同年夏季，汉军再次分东、西两路北征。霍去病走西线，又获大胜。东线却损兵折将，李广遭遇匈奴左贤王主力，几乎全军覆没。战后，浑邪王和休屠王因害怕受到单于惩罚，率众降汉。
养马
汉武帝前期之所以能在对匈战争中取得胜利，与汉初的鼓励养马政策是分不开的。匈奴号称有“控弦之士三十万”，骑兵兵力极为强盛。为了打破这种不利局面，文帝在位时就鼓励民间养马，景帝开始以国家名义大规模养马以备军用，武帝继位时已有军马45万匹。
“漠南战役”匈奴单于战败后，元气大伤，逃遁漠北，以为汉军无法远出，可以暂时隐忍，积聚实力，以图卷土重来。元狩四年（前119）春，汉朝对匈奴规模最大，最具决定意义的“漠北之战”拉开了序幕。
汉武帝在战前对此役进行了周密的部署：派大将军卫青以五万骑兵为主力，出代郡进攻匈奴左贤王；派骠骑将军霍去病率五万“敢力战深入之士”为主力，出定襄，直驱漠北进攻匈奴单于。除两路军10万人外，还有编制外的“私负从马”四万匹跟随前进，后面有步兵数十万掩护辎重。军势浩大，天下震动。
但队伍刚刚出发，便捉获了匈奴的骑哨，得知单于主力已经东移。此时的武帝更倚重仅有22岁的霍去病，于是临时更改部署，遂命令前线两军调换出发地，仍希望让霍去病去寻找匈奴单于决战。但等大军出塞后，才发现单于仍然在西，卫青遂直取匈奴主力，在漠北展开决战，厮杀整日，伤亡相当。最后单于不支，趁夜逃走。卫青追击到阗颜山赵信城（今蒙古杭爱山南端），虏获大批辎重物资，余粮全部烧掉。卫青前后共歼灭匈奴兵1.9万余人。霍去病出塞后，即遭遇匈奴左贤王部，奋战取胜，追击到狼居胥山、姑衍（均在今蒙古乌兰巴托以东），祭天立碑而还。霍去病总计俘虏屯头王、韩王等3人，将军、相国、当户、都尉等83人，其余人等7万余。
经过此次战役，匈奴实力遭到重创，此后再不敢在漠南设置王庭。困扰汉初近百年的北部边患，算是基本得到解决了。
