公元349年4月，后赵国主石虎病情加重，他担心自己将不久于人世，于是下诏任命彭城王石遵为大将军，镇守关右；任命燕王石斌为丞相，总领尚书职事；任命张豺为镇卫大将军、领军将军、吏部尚书。他们都答应会谨遵遗诏，辅佐朝政。
刘皇后害怕石斌辅佐朝政，会威胁太子的地位，因此和张豺谋划着如何除掉他。石斌远在襄国，刘皇后先骗石斌说：“主上已大有好转，您不必着急赶来了。”石斌喜欢打猎喝酒，听到这消息后，便放心地纵酒打猎去了。刘氏和张豺借机假传诏令，谴责石斌不忠不孝，将他免官，押回邺城，并派张豺的弟弟张雄率宫中的龙腾卫士五百人严加看守。
十九日，石遵赶来邺城，传诏让他在朝堂受封，结果给他配了三万宫中亲兵，便让他回去，石遵伤心地走了。这天，石虎觉得身体稍微好些，问道：“石遵回来了没有？”随从回答说：“回来了，又走了，已经过很长时间了。”石虎痛心地说：“没有见到他，真是太可惜了！”
在太武殿的西阁，两百多个担任宫中护卫任务的龙腾中郎列队要求觐见，石虎问：“你们有什么事吗？”众卫士回答说：“主上圣体染恙，请让燕王石斌入宫管理宫中兵马，守卫禁宫安全。”有人还说：“请主上立燕王为皇太子。”石虎说：“燕王就在宫内不是吗？让他来见我！”左右答道：“燕王因喝酒被判罪，不能入宫。”石虎说：“去，用我的车子把他接来，我要把玺印交给他。”可是竟然没有一个人敢动。不一会儿，石虎又觉得身体不适，便回去了。张豺为永绝后患，派张雄假传诏令将石斌杀掉了。
二十二日，刘氏又一次伪造诏令，封张豺为太保，管理内外军队，履行尚书的职权。这样，张豹就可以像西汉霍光那样辅政专权了。侍中徐统慨叹道：“朝廷将不得安宁，我不想被卷入其中。”于是自杀了。
二十三日，石虎病逝，太子石世即位，刘氏被尊为皇太后。刘氏像皇帝一样行使权力，封张豺为丞相。张豺并没有任职，而是建议让彭城王石遵、义阳王石鉴担任左右丞相，以便能安抚这两人，刘氏觉得也有道理，就听从了。
司空李农是石斌的统兵大将，张豺找太尉张举密谋除去他，然而张举和李农交情匪浅，就把这个消息透露给了李农。李农听说后，逃到广宗，率领万余乞活残余部固守上白。刘氏派张举带领军队包围了他们，双方相持不下。张豺封张离为镇军大将军，管理朝廷内外军务，充当自己的副手。
父亲石虎去世的消息传来，彭城王石遵已行至河内。姚弋仲、蒲洪、刘宁以及征虏将军石闵、武卫将军王鸾等人讨伐梁犊归来，在李城遇见了石遵。他们都劝石遵说：“殿下您年龄稍长，德才兼备，先帝也曾有意立您为太子。先帝晚年因为身体欠安，才会被张豺欺瞒。如今刘皇后当政，奸臣掌权，京师的军队都在包围上白，城内力量空虚。殿下如果这时带领军队，讨伐张豺，谁不放下武器，打开城门，迎接殿下呢？”石遵觉得他说得很对，决定起兵。
石遵从李城发兵，掉头直奔邺城。途中，洛州刺史刘国率领军队前来投奔。石遵起兵的消息传到邺城，张豺手足无措，急忙调回包围上白的军队。
十一日，石遵的士兵已达九万人，石闵担任前锋，部队行进到荡阴。张豺要出兵拦截，但邺城内人心背离，大家都说：“彭城王来为父亲奔丧，我们应该去迎接他，不要再为张豺守城了！”于是纷纷翻墙出城投奔石遵，张豺以杀头相要挟，人们也不在意。就连张离也冲破关卡，率领两千名龙腾卫士，准备迎接石遵。刘氏十分害怕，召来张豺商量对策，声泪俱下地说：“先帝尸骨未寒，他们就兄弟相残！现在太子还小，我们只能依靠将军您了。不知道将军有什么打算？你看给石遵加官进爵，能让他停止吗？”张豺这时也六神无主，毫无对策，只知道说：“好的好的。”于是刘氏下诏，封石遵为丞相，兼领大司马、大都督，管理内外军队，兼任尚书，并享有持黄钺、加九锡的特权和礼遇。
十四日，石遵兵临安阳亭，张豺害怕，出城投降，石遵下令将他拘捕。
十五日，石遵从凤阳门进入邺城。只见他身穿铠甲，威风凛凛地登上太武前殿，想到父亲离世，难掩悲痛，捶胸顿足来宣泄悲愤之情，然后退到东阁去了。石遵掌权，将张豺处死在平乐市，并灭了他的三族。接下来，石遵假借刘氏的名义，传诏令说：“太子尚小，当初立他为太子，因为先帝疼惜幼子。然而国家政务事关重大，他小小年纪还不能承担，应让位给石遵。”于是石遵登基，大赦天下，撤回了包围上白的军队。
十六日，石世被封为谯王，刘氏被废，降为太妃。没过多久，石遵还是把他们杀了。
李农到邺城领罪，石遵回复了他的官位。
当时镇守蓟城的沛王石冲，听说石遵杀掉石世自立，就对辅佐他的同僚们说：“石世按照先帝的旨意继位，石遵专横，把他杀掉，这真是天大的罪过，我要亲自出征去讨伐他！”于是石冲让宁北将军沭坚留下守卫幽州，自己率军五万从蓟城出发，并将讨伐石遵的文书传到燕、赵之地。石冲南下途中所到之处，人们云集而来，抵达常山时，军队已达十多万人。
行进到苑乡时，石冲见到了石遵大赦的诏书，他慨叹道：“石世、石遵都是我的弟弟，死去的已经无法挽回，活着的何必再自相残杀呢！我还是回去吧。”石冲手下的将领陈暹劝阻道：“石遵杀君夺位，罪大恶极！主上您要率军北返，但我不会回去。等到我进军京师，擒获了石遵，再来恭迎您，请您主持大局。”闻听此言，石冲决定继续前进。石遵闻讯，急速派王擢送信劝阻石冲，但石冲不听劝告。石遵便派武兴公石闵及李农率领精锐士卒十万人迎击石冲。在平棘，双方交战，石冲大败，他本人被擒。石遵赐他自杀，并将他手下的士卒三万多人活埋了。
武兴公石闵对石遵进言说：“蒲洪才能显著，如今他镇守关中，我担心秦州、雍州之地，很快就不再会归赵国管辖了。虽然是先帝临终受命让蒲洪镇守关中，然而如今陛下执政，策略自然适时而变。”石遵听从了进言，便解除了蒲洪的都督一职，其他职位一如从前。蒲洪对此深感不满，回到枋头后，便投降东晋了。
前燕平狄将军慕容霸给前燕王慕容俊上书说：“石虎生性暴虐，荒淫无度，上天已将他抛弃。如今的些许残余，还自相残杀。中原地区局势动荡，百姓饱受战乱之苦，深切期盼仁爱和抚恤。如果您率大军奋起，石氏的军队必定不战而降。”北平太守孙兴也上表说：“眼下石氏内乱，天赐良机，我们应就此进取中原。”当时前燕先帝大丧刚刚过去慕容俊有所顾忌，没有答应。
慕容霸急忙来到龙城，对慕容俊进言说：“机不可失，失不再来。万一石氏东山再起，抑或被别人取而代之，那就不只是失去进取中原的有利形势，更是为将来埋下了祸患。”慕容俊说：“虽然邺城内部大乱，但邓桓实力雄厚，粮草充足，据守着安乐，现在如果攻打赵国，东面的道路阻塞，只能走卢龙。然而卢龙地势险峻，山路狭隘，敌人如果居高临下从中间截断我们的去路，那我们就首尾受敌，那可怎么办？”慕容霸说：“邓桓虽想竭尽全力，为石氏坚守，但将士们常年征战在外，思念家人，归心似箭。如果我们兵临城下，他们自然无力抵抗。请让我率部担任殿下的前锋，从徒河出发，悄无声息地前往令支，打他一个出其不意。等到他们得到消息后，一定惊慌失措。这时，最好的对策不过是城门紧闭，决不迎战，情急之下不免就要弃城逃跑了，根本无力抵抗！这样一来，就消除了被截留围困的隐患，殿下也可以从容前进了。”
慕容俊还是下不了决心，便去征询五材将军封奕的意见，封奕对他说：“行军打仗，敌强我弱就智胜，敌弱我强就力夺。所以才有以大吞小，拨乱反正。我国自先帝在世时，就以仁义治国，崇尚高尚品德，军队强大，武器精良。石虎则因暴虐无道，死未瞑目，就爆发了子孙争位的混战。中原地区的百姓，如坠水深火热的深渊，日夜企盼救兵。大王如果现在进军中原，先拿下蓟城，再直取邺城，军威浩荡，再宣传仁义，弘扬道德，能够对亡国之民关怀抚恤，百姓怎会不夹道相迎呢？石氏那些凶残的党羽一见大王的旗帜，就像冰一样土崩瓦解了，那里还能继续为害。”
从事中郎黄泓说：“我夜观星象，发现太白星位于中天，木星停留夜空之北，这正是北方之国入主中原的征兆。大王何不顺应天意，尽快出师。”折冲将军慕舆根也说：“中原百姓饱受石氏祸乱之苦，都想通过改朝换代脱离这种悲苦的境地，如今正是天赐良机，不容错过。自武宣王慕容以来，我国广进人才，体恤百姓，重视农耕生产，练兵强国，就是在为今天储备力量。如今时机成熟，却犹疑再三，弃之不用，难道是老天不想让中原安定，或者是大王不想君临天下？”
慕容俊不禁笑了，听从了他们的劝告。分别任命慕容恪、慕容评、左长史阳鹜为辅国将军、辅弼将军、辅义将军，称为“三辅”。同时精挑细选兵士二十多万，由慕容霸担任前锋都督、建锋将军，讲习武艺，进入临战状态，为进攻石氏积极做着准备。
