汉武帝用法严厉，性格刚毅，可太子刘据却是宽厚待人，温和谨慎。渐渐地，百官当中，为人宽厚的都聚在刘据身边，而那些用法严苛的，则大多诋毁刘据。结果，在汉武帝身边赞赏刘据的人少，故意诋毁的人反而多。公元前106年，太子的舅舅、为汉武帝战胜匈奴立下赫赫战功的大将军卫青去世，与太子不睦的人认为，刘据和卫皇后已经没有了外戚靠山，同时也害怕太子继位后对自己不利，于是开始竞相陷害太子刘据。而汉武帝发现自己宠爱的太子与自己在诸多方面存在着差异，加上缺乏思想交流和感情沟通，父子间的嫌隙也开始增大。
汉武帝晚年时期重用酷吏江充。这个江充原本也与刘据没有什么瓜葛，然而有一次刘据派使者去甘泉宫向汉武帝奏报政务，使者因为政务紧急，乘着马车行驶在驰道上，恰巧被跟随汉武帝去甘泉宫的江充看见了。驰道为天子的御用通道，臣子百官没有得到许可都不能在上面行驶。江充就把刘据的使者扣押。刘据得到消息之后，派人向江充道歉，告诉他：“都怪我对手下管教不严，此事实在不想让父皇知道，能否高抬贵手宽恕一次。”狡猾奸诈的江充深知汉武帝异于常人的性格，故意义正词严地向汉武帝汇报了此事。汉武帝果然大加赞赏说：“做臣子的就该如此刚正不阿。”江充因此更加受汉武帝的信任。但因为此事，太子与江充有了嫌隙，给未来埋下祸根。
汉武帝晚年，巫风大盛。曾有女巫帮助后宫女人用巫蛊之术加害他人，而这些女人又由于妒忌而相互告发，并声称对方是在诅咒皇上。什么是“巫蛊”呢？所谓“巫蛊”就是用木头雕刻成仇人的形象，插刺铁针，埋入地下，并用恶语诅咒，以为这样能够使对方蒙祸。汉武帝晚年因年迈而多病，追求长生的欲望十分强烈，他迷信方士神巫，怀疑有人诅咒自己，对巫蛊之风深恶痛绝。因此，那些与巫蛊有关的嫔妃及大臣都被处死，死者竟达数百人。
到了公元前92年，江充看到汉武帝年事已高，而自己的行事风格狠辣，与太子刘据的宽厚之风相悖，加之先前又和刘据有嫌隙，害怕汉武帝去世之后被刘据报复。他决心借助巫蛊之罪来陷害太子。江充先故意说汉武帝生病是因为巫蛊作祟，信以为真的汉武帝任命他为使者，专门典治巫蛊。江充广为收捕巫觋。什么是巫觋呢？古代称女巫为“巫”，男巫为“觋”，合称就叫“巫觋”。江充对巫觋严刑逼供，强迫他们认罪。从京师长安到各郡、国，因此而死的先后有数万人，闹得人心惶惶。后来有一天，汉武帝游幸甘泉宫时生病，江充称长安宫中有蛊气。汉武帝立即派他追查，又派韩说、章赣、苏文等宦官协助江充。早有预谋的江充便从后宫中不受宠幸的夫人开始查办，再延及皇后卫子夫。
一年后，江充终于将铁锹挖到了太子的东宫，故意设局，“挖”出了桐木人偶。可把刘据吓坏了，他想亲自到远离长安的甘泉宫向汉武帝表明清白，但是江充一直对他穷追不舍，使刘据无法脱身。刘据不得已被迫起兵，杀死江充，烧死胡巫。而江充的同伙，同样奸诈的苏文却逃出长安，来到甘泉宫，向汉武帝诬告太子造反。
汉武帝听到苏文的汇报后，并不相信，说：“太子肯定是害怕了，又愤恨江充等人，所以发生这样的变故。”此时的汉武帝还是很理解太子的心理，因而派使臣召刘据前来。可是，派去的使者不敢进入长安，为了复命而编造说：“太子已经造反，要杀我，我逃了回来。”这样，汉武帝对太子谋反才信以为真，因而勃然大怒，下令剿灭太子及其势力。太子兵败出逃，不久自杀身亡。汉武帝得知太子起兵有卫皇后支持，下诏派人要收回用以帮助刘据起兵，象征皇后实权的玺绶。卫皇后为了证明自己的清白，在后宫自尽身亡。
这件牵扯数十万人的事件，就是历史上著名的“巫蛊之祸”。
见自己敬重信任了三十多年的皇后和精心培养几十年的太子相继自杀身亡，汉武帝始终难以释怀。在冷静一段时间后，有大臣向武帝反映了太子的冤屈，武帝于是下令彻查此事，终于查明太子是被人恶意陷害，蒙冤而死。愤怒的汉武帝严惩了陷害太子的苏文等人，还修建了一座思子宫以寄思怀，又在太子自杀身亡的湖县修建了一座归来望思之台。
公元前89年，汉武帝颁布历史上赫赫有名的《轮台罪己诏》，全面反思自己过去的所作所为，表示今后要努力发展生产，与民休息。
刘据死后，太子之位就空缺下来。
汉武帝的次子、汉昭帝刘弗陵的二哥是刘闳。刘闳是汉武帝与宠妃王夫人所生，封为齐王。因为王夫人得到汉武帝的宠爱，所以刘闳也尤其受汉武帝的喜欢。可惜刘闳英年早逝，也没有留下子嗣，死后封国废除。谥号为“怀”，即齐怀王。
汉武帝的第三个儿子、汉昭帝刘弗陵的三哥是燕王刘旦。刘旦是汉武帝与李姬所生。燕国地处北境边陲，紧邻匈奴，土地贫瘠，民风凶悍。汉武帝在封刘旦为燕王时，以策文诏谕刘旦，勉励他镇守边陲，成为汉朝的藩篱辅翼。
汉武帝时期的郡国制度与汉初不同，诸侯王的封国已没有太多的权力。而且汉朝皇位传承遵从周制，基本上是立长。所以作为汉武帝第三子的刘旦，起初并不奢望有朝一日能够荣登大位。太子刘据在世的时候，刘旦安心为王，将心思集中于各种学问。刘旦率性而学，经书、杂说来者不拒，特别喜欢星历、数术、倡优、射猎。成年后的燕王“能言善辩，广有谋略”，喜好广揽游侠武士。
刘旦的二皇兄刘闳去世后，又发生了巫蛊之祸，导致太子刘据自杀。刘旦意识到汉武帝剩余诸子中自己年纪最长，按次序排下来，皇太子的位置应该归属自己，但不知何故，汉武帝一直没有再立太子的意思。等了好几年，还是没信儿。刘旦着急了，他派使者来到长安，向汉武帝上疏，请求宿卫长安，以备不虞。意思就是提醒年纪已老的汉武帝，该立自己为太子了，一旦汉武帝有个不测，能提前有所准备。
刘旦自荐请立为太子的举动，让汉武帝感觉很不舒服。当时，晚年的汉武帝正对冤死的太子刘据思念不已，看了燕王刘旦的自荐立太子信以后勃然大怒，立斩来使。紧接着，又以燕王“藏匿亡命之徒、违反汉律”的罪名，削掉燕王封国三个县邑，以示惩戒。之后，汉武帝感叹“生子应置于齐鲁之地，以感化其礼义；放在燕赵之地，果生争权之心”，遂厌恶刘旦。然而，刘旦并没有灰心，在汉武帝传位给小儿子刘弗陵后，他曾两度试图造反，但都没有成功，最后畏罪自缢而亡。
汉武帝的第四个儿子、汉昭帝刘弗陵的四哥是广陵王刘胥。刘胥也是汉武帝与李姬所生，是燕王刘旦的亲弟弟。刘胥身材高大，体魄壮健，喜好游乐，力能扛鼎，曾经空手与熊、野猪等猛兽搏斗。勇武斗狠的刘胥因为行为没有法度，未能得到汉武帝的宠爱，汉武帝一直就没有选立刘胥为太子的念头。到了汉昭帝刘弗陵继位后，刘胥觊觎帝位，曾两次请来女巫李女须，下诅咒，咒汉昭帝暴毙。这次，正巧汉昭帝突然驾崩，刘胥认为是李女须的诅咒灵验了，说她是位了不起的巫师，并杀牛庆祝。刘胥自信满满地认为，无论从哪方面看，自己都应该是皇位的继承人。于是，广陵王刘胥积极策动朝中大臣，鼓动众人拥立自己为帝。
