景帝驾崩，武帝继位之后，也申明遵守和亲之约，宽厚地对待匈权，与之互通关市，并赠送大量财物。这时，匈奴自单于以下皆亲汉；大量的的匈奴人，往来于长城之下。然而，这一切都是表象，因为在青年武帝的内心深处，先辈们的屈辱是从不曾忘怀的；强悍的匈奴居于汉朝之侧，就好像头上时时悬着一把利剑一样，指不定哪天危险就来了，这如何能让人放心呢？
平静的局面很快就被打破了。首先扰局的乃是大行令王恢。他向武帝推荐了一个人，这个人叫聂翁壹，乃边地马邑人。聂壹为人豪迈，行商日久，积累了不少财富，在边地颇有名气。不过既然居住在边城，自然是免不了要受些苦楚的，在目睹了边关人遭受侵略之后的惨状后，聂壹更是义愤填膺，在心里默默地种下了发芽的种子。
得见天颜之后，聂壹毫不退缩，毫不犹豫，大大方方地侃侃而谈，献上了自己的妙计。武帝听得频频点头，欣然采纳。此后，那个奉公守法的商人聂壹不见了，取而代之的是一个见利忘义的人。他频频违犯禁令，私自出关，同匈奴人交易一些紧俏物品，一来二去，同匈奴的某个贵人“勾搭”上了。聂壹时常在这人面前发牢骚，说汉廷是如何的不好，言谈举止中，表达了对匈奴的向往。匈奴贵人听在耳里，记载心里，随着接触的深入，渐渐地产生了信任。聂壹觉得时机差不多了，便径直对匈奴贵人说，因私自出关的缘故，这马邑的长官经常罚款不说，还侮辱他的人格，实在是受够了，想找机会杀死他，并愿做内应，将马邑城献给匈奴。
多年的合作建立起来的信任关系终于起了作用。匈奴贵人听了，又惊又喜，自思这边城马邑人来人往，客商云集，财富是何等的雄厚，若能取之，必是大功一件，又想聂壹的名声确实够烂，只有向匈奴靠拢才有出路，便不起疑心，欣然应允，接着与聂壹商谈了一些细节。回马邑后，聂壹径直去了府衙，与长官商议如何应对。这人当即从狱中提出一个死囚，斩首后将其悬挂在城头。聂壹则对外宣称，马邑的长官已经被杀，全城已为自己所掌控了。匈奴的探子得知，飞报军臣单于。军臣单于既经不住那匈奴贵人的不断撺掇，又对马邑的财物垂涎三尺，贪心膨胀，战胜了警惕，立时翻身上马，挥军十万，浩浩荡荡，杀奔入武州（今山西左云县）边塞。
这时，汉廷早派出了御史大夫韩安国、骁骑将军李广、轻车将军公孙贺、将屯将军王恢、材官将军李息等五位将军共领军三十余万，埋伏在马邑的近旁。其中韩安国为护军将军，所部为机动力量，护卫着四位将军准备伏击单于。
军臣单于率部侵入汉朝的边塞，距离马邑尚有一百余里，看到牲畜遍野却无放牧之人，颇为诧异，疑心顿起，为稳妥起见，就令人攻打汉朝的侦察哨所。正巧此时雁门郡的尉史（郡中武官）正在巡察，看到敌军，就率部奋起抵抗，可惜寡不敌众，为对方所生擒。
军臣单于知尉史职位不低，一定知道一些内幕，就问他为何牲畜遍野却无放牧者。尉史一开始紧咬牙关，后见单于要取他的性命，心里防线立时崩溃，只好将马邑之谋和盘托出。单于听说汉军在马邑城布下了一个天罗地网，顿时惊出一声冷汗，叹道：“我本来就对此事有疑心，你的话刚好得到了验证，原来这真的是一个大阴谋。”当即下令，全军折返。安全地走出边境后，军臣单于这才松了一口气，看着尉史道：“我得到尉史，天意也。是上天派你来助我，才使我幸免于难。”于是封尉史为天王。
汉军曾约定，单于进入马邑城后，再放纵兵士攻杀，如今单于未到马邑，自是一无所获。将屯将军王恢的职责是领军出代郡，攻击匈奴军队的辎重，听说单于已折返，知敌方兵卒大增，因而不敢下令出击。然而，武帝认为：王恢是本次伏击战的出谋划策者，遇见敌人却不敢进攻，委实胆小如鼠，敢说不敢做，实在可恨，因而勃然大怒，将其逮捕下狱。王恢羞愤交加，便自裁了。
马邑之谋，一次未遂的伏击战，使得汉匈双方从此都撕破了脸皮，拉开了大规模对抗的序幕。
军臣单于回归王庭后，当即下令，与汉朝断绝和亲关系。此后，匈奴的军队攻击汉朝的交通要塞，时常侵入汉朝的边境，进行抢掠，次数之多，不可胜数。但是，匈奴贪婪，还是喜欢与汉朝互通关市，以获取更多的财物。而汉廷也不得不在表面上维持与匈奴的友好关系，与其进行贸易，以迎合他们的心意。
马邑之谋后，武帝知匈奴势大，也知自己缺乏帅才，因而一时不敢再打匈奴的主意。有一天，武帝去平阳公主的府上消愁解闷，酒酣耳热之际，看上了一个歌女，这人唤作卫子夫。于帝王而言，这事本来稀松平常，可不寻常的是，他还看上了一个人，这人是卫子夫的弟弟，唤作卫青。
