魏国灭掉蜀国之后，司马炎在魏国首都洛阳逼魏国的皇帝曹奂退位并将皇位禅让给自己，改国号为晋，改元泰始，史称晋武帝。武帝非常高兴，但他知道自己的江山是从曹魏政权手上篡夺过来的，所以他害怕自己的江山也会被自己的大臣篡夺，因此他吸取了曹魏灭亡的教训，不顾司隶刘颂反对大肆分封晋室宗族来巩固自己的江山。不过，晋室奢靡腐败之风盛行，在这种情况下采用分封制来巩固国家权力并不明智。
咸宁四年，司马炎曾在南郊祭天，祭礼毕，喟然感叹，他对司隶校尉刘毅说：“朕听说你为人刚正不阿，你认为像朕这样的皇帝，可以和汉朝的哪位皇帝相比啊？”刘毅回答说：“皇上和汉桓帝、汉灵帝差不多。”汉桓帝和汉灵帝是东汉年间有名的昏君，诸葛亮在《出师表》中就曾写道：“未尝不叹息痛恨于桓、灵也。”晋武帝听了这话有些不高兴，说道：“朕还没有达到这种地步吧？”刘毅说：“回陛下，桓帝和灵帝当皇帝的时候，他们卖官赚来的钱，还全部放到官库里去，可是现在陛下卖官赚来的钱，却都揽到自己腰包里，照这样看的话，皇上您还不如他们呢。”武帝虽然不高兴，但是他心里还是容得下刘毅的，于是故意大笑道：“刘爱卿可真是忠臣哪，桓、灵当皇帝的时候他们肯定听不到这番话，现在朕有你这样正直的臣子，那朕肯定比他们俩强多了。”因此赐给刘毅黄金二十斤，以表扬他的正直。
咸宁五年十月，武帝让卫瓘做尚书令。当时朝野上很多人认为太子昏庸，难堪大任。卫瓘早就希望武帝能重新在他诸位儿子中另外挑选一个人当储君，但一直找不到合适进言的机会。一日，武帝在凌云台上大宴群臣。宴会结束了，卫瓘假装喝醉了酒跪在武帝床前。武帝说：“爱卿你这是怎么了？”卫瓘说：“臣有话要说。”武帝说：“但说无妨。”卫瓘于是用手拍了拍床说：“哎！此座可惜，可惜！”武帝已经明白他的意思了，于是故意说道：“卫爱卿，你是真的喝醉了。”于是卫瓘不敢再说什么了，就醉醺醺地回去了。
武帝回到了自己的宫殿里，闷闷不乐，对杨皇后杨芷说：“太子才能平庸，性格懦弱，不堪重任，这事可怎么办才好？”杨芷是太子司马衷生母杨艳的堂妹，杨艳是晋朝最早的皇后，她临终时希望她死后杨芷能当上皇后，武帝同意了。皇后回答说：“自古以来废长立幼都是取祸之道，皇上您可千万不能废了太子啊，况且太子并没有犯下过什么大错。”
这天晚上武帝很忧虑，夜不能寐。忽然城内有人报道内城失火，于是他和宫中人一同登楼，看火灾的情况。东宫才人谢玖所生的皇孙司马遹这年才五岁，他在旁边看见自己的爷爷武帝倚在栏杆上观看，远处的火光照亮了武帝的面孔，于是他拉了拉武帝的衣服，说道：“今天晚上发生了火灾，应该防备特殊的情况，不能让人臣看见爷爷您的脸啊，这万一有小人生了谋反之心，兴兵起事，对爷爷岂不是非常不利？”武帝听到这话感到非常惊讶，他没想到自己的孙子这么小就有这样深刻的见解，于是非常宠爱他，武帝的近臣也很重视他。
太子妃贾氏南风听说皇孙司马遹很受皇帝宠爱，而他并不是自己生的儿子，而自己只有一个女儿，又没有儿子，心中不乐，一日在路上走，看见太子的一个宠妾居然怀孕了，一怒之下拿刀把她捅死了，孩子也没保住。武帝听说后勃然大怒想废掉她，杨皇后劝道：“太子妃虽然有罪，但看在她父亲贾充是开国功臣的份上，饶了她这一回吧。”贾充主要有两大功劳，一是逼死想杀司马昭的魏国皇帝曹髦，二是劝司马昭立武帝为储君。武帝说：“连太子一并废黜，又有什么不可以的？”杨后又说：“太子虽然平庸，可是皇孙聪慧，有贤子继承他的皇位，又何必担忧呢？”武帝被劝，因此不能定夺，于是走出宫一边走一边思考。
武帝忽然看见皇孙司马遹随后跟来，于是牵着他的小手一同往猪圈里看猪。武帝对皇孙说：“遹儿你看这些猪长得肥不肥啊？”，司马遹说：“回爷爷的的话，这些猪确实挺肥的。为何不杀了它们分给有功之士，何必让它们再浪费粮食呢？”武帝听到后非常高兴，说：“此儿当兴我家。”于是他让手下立即照做了。接着又下令封司马遹为皇太孙。
太康元年，武帝又派将士灭掉了吴国，统一了天下。武帝派人把孙皓以及投降的吴人带来相见。孙皓上大殿向武帝叩头。武帝对孙皓说：“朕设了这个座位以等待你已经有很久了。”孙皓说：“我在南方，也设了这个座位以等待陛下。”贾充对孙皓说：“听说阁下在南方挖人眼睛，剥人面皮，这是什么样的刑罚？”孙皓说：“有做为臣子却弑杀他的国君以及奸险狡诈不忠的人，就对他用这种刑罚。”这是在讽刺贾充杀害高贵乡公曹髦，贾充听后，沉默不语，非常的惭愧，而孙皓则脸色不变。
太康三年，贾充病死。太康五年，孙皓病死。
太康十年武帝染上重病，认为自己已经时日无多，下令让四叔汝南王司马亮和杨皇后的父亲杨骏共同执掌大权辅佐太子。杨皇后在他身边，趁他神志不清的时候故意说道：“圣上万岁后，外人恐怕很难委以重任，必须国丈方可辅佐太子。”武帝这时说不出话来，勉强支吾了几声，杨皇后就当他答应了，杨后立马宣心腹人何劭作诏，授杨骏为太尉，都督中外诸军，录尚书事。杨骏害怕汝南王入宫，皇帝肯定让他辅政，且这个诏书并非出于皇帝心意，于是使何劭传武帝口谕，让汝南王晚些时候入宫，理由是皇帝好不容易睡着了，国事等来日再计议。汝南王不知是假，于是不敢进宫。
不久武帝复苏，于是问汝南王来了没有，左右答说：“尚未曾来。”武帝说：“朕有大事和他商量，怎么这么迟！”左右说：“杨太尉已领尚书、都督诸军，大事定矣。”武帝听说这话，怒气攻心，闭塞咽喉，长叹一声，就驾鹤西去了，时年五十五岁。他在位二十五年，有四个年号：泰始、咸宁、太康、太熙。
晋武帝逝世后，太子司马衷登位，史称晋惠帝，改号永熙元年。惠帝于是让杨骏当太傅，总摄朝政，立贾氏南风为皇后，才人谢玖为太妃，司马遹为太子，诏赦天下。
汝南王司马亮知道杨骏向来很嫉恨自己深受武帝的信赖，司马亮本来想参加武帝的丧礼，但他害怕杨骏会加害自己，所以没敢去。谁料杨骏竟然以此为借口，说司马亮大逆不道，派人去擒拿他。司马亮听说后在许昌（今河南省许昌市）躲了起来。
惠帝登基以后，贾后很想在朝廷上有一番作为，但是杨骏权倾朝野，又从来不采用贾后的建议，贾后非常恼火，想除掉杨骏。但是凭她一个人的力量又不足以和杨骏抗衡，因此她秘密关注对杨骏心生不满的大臣。很快，她发现禁卫将军孟观、李肇两个人非常痛恨杨骏，痛恨的原因是杨骏为政严苛而琐碎，性格刚愎自用，待人又非常傲慢无礼。于是贾后主动派黄门董猛联络孟观、李肇，贾后、孟观和李肇这三人很快形成了“倒杨”同盟。
三人小组的最高目标是杀掉杨骏，然后把皇太后杨芷废掉。但是这三个人知道凭他们的力量还不能够除掉杨骏，经过讨论，他们决定派董猛去找司马亮，希望他出面帮助他们，可是司马亮胆小怕事，并不答应。贾后觉得事情不能再拖下去了，于是让李肇跑到荆州动员武帝第五子楚王司马玮加入倒杨集团，司马玮也很痛恨杨骏，立马答应了，第二天他就率领七千兵马，一同李肇入京。
孟观建议贾后先向惠帝说明杨骏即将造反，并称孟观有能力平叛，贾后照着孟观的意思告诉了惠帝，惠帝相信了贾后的话，立刻宣孟观入宫，问有何良策，孟观于是请求惠帝下诏讨伐杨骏，孟观得到惠帝的诏书后，立马令人出城会合楚王。楚王得命，即带人马在杨府周围布置，让东安王司马繇带着羽林军三千，埋伏于宫门之外。孟观亦将本卫四千禁兵把守内门。
