1915年8月，袁世凯已将称帝纳上议事日程。8月14日，筹安会敲响了复辟帝制的开场锣。继之，北洋派文武官员相继请愿、劝进，要求实行帝制，请袁世凯登基。段祺瑞隐居西山，始终保持着清醒的头脑。他召来亲信徐树铮、曾毓隽等商量对策。段祺瑞说：“项城帝制自为之迹，已渐显露，我当年曾发采取共和之电，如今又拥项城登基，国人其为我何？且恐二十四史中，亦再找不出此等人物！所以论公，我宁死亦不参与；论私，我从此只有退休。决不多发一言。”徐树铮也认为，“第一，不论直接间接，积极消极，均反对帝制到底；第二，欲项城中途取消帝制，已完全失望，所以合肥还是称病不见为上。”不久，袁世凯召见段祺瑞，以举国一致的劝进热潮，要段表明态度。段祺瑞说：“帝制乃人民所疾首痛心，必不容其发现者。劝进之文皆奸人捏造，混淆视听。总统倘不及早觉悟，噬脐晚矣。”袁世凯说：“民意真伪且弗论，君于意何？”段祺瑞俨然一古代诤臣明知袁世凯不乐意听，他还是直言相劝。他说：“廿年恩义讵忍丧于一旦？固知无不言，亦言无不尽，不忍见总统为眼前罪人，乞宸衷独断，毅然取消。”袁世凯已陷入帝制泥潭不能自拔了，所以根本听不进段祺瑞的忠告。
12月12日，袁世凯欣然接受劝进，随即对文武百官进行封赏，大赐爵位。在封赏的二百多人中，惟独没有段祺瑞。不久，袁世凯申令明年为洪宪元年，改中华民国为中华帝国，并准备择日举行登基大典。没想到袁世凯这边还没有安排好，25日云南就传来了独立讨袁的消息，各省纷纷响应，全国迅速掀起了一个讨伐帝制的怒潮。袁世凯过低地估计人民的力量，对云南的军事力量开始并未怎么重视。然而，云南起义的影响大大超过了它的军事力量。面对日益壮大的护国力量，袁世凯不得不仓促调兵镇压。在中南海设立征滇临时办事处，并打算起用段祺瑞。袁世凯请他出任征滇总司令，段祺瑞拒不从命。帝制派投寄匿名信恐吓他，他坦然表示，“武人不怕死”。1916年2月底，段祺瑞甚至不顾袁世凯的面子，公然倡导南北停战，维持共和，另组新政府，以解决时局。
到1916年3月中旬，继云南、贵州独立后，广西也宣告独立，广东、浙江、安徽、福建、湖北等省均出现了反袁的武装力量。袁世凯调往前线的北洋军则士气不振，内部矛盾重重。坐镇东南的另一心腹大将冯国璋联合江西将军李纯、山东将军靳云鹏、浙江将军朱瑞、长江巡阅使张勋等五人联名致电袁世凯，要求迅速取消帝制。这些人都是袁世凯一手提拔起来的旧部，如今公然与袁对抗，对袁的打击是沉重的。
袁世凯众叛亲离，已陷入四面楚歌之中，走投无路，只有取消帝制。他请来了反对帝制的徐世昌出面收场。徐世昌说：“此事关系太大，须约芝泉共同商办，才有力量。”袁世凯这才请出段祺瑞。袁世凯见到段祺瑞，懊悔地说：“我老且病，悔不听你言，致有今日纠纷，若取消帝制，还需要你帮忙。”段祺瑞虽对袁世凯有气，但到这个时候，还有什么话可说呢。他对袁世凯说：“容与相国熟计之，当竭吾力相助。”袁、徐、段三人经过密商，决定取消帝制。3月21日，袁世凯任命徐世昌为国务卿，22日发布了撤销承认帝制案的申令，23日特任段祺瑞为参谋总长，并告令“洪宪年号应即废止，仍以本年为中华民国五年”。至此，袁世凯的皇帝梦宣告破灭。
但事情并没有如此简单地结束。袁世凯撤销帝制后还要做中华民国的大总统，而袁世凯的行径使人们对他有了本质的认识，各种护国力量达到了空前的一致，由辛亥年间的大总统“非袁不可”变为现在的“非去袁不可”，所以讨袁战争继续进行。袁世凯的老友——狡猾的徐世昌感到非常棘手，以病为由辞去国务卿，一走了之。段祺瑞则以积极的姿态应付局面，他乘机向袁世凯提出，改政事堂为责任内阁，改国务卿为总理，恢复民国三年以前的体制。袁世凯别无他法，只要能保住总统位置，都可以先答应。所以他于4月21日宣布“委任国务卿总理国务，组织政府”，并任命段祺瑞为国务卿。5月8日又下令正式取消政事堂，恢复了国务院和国务总理名称。
这时的段祺瑞已经不是清末的段祺瑞了，他实际在效法当年袁世凯向清廷要权的方法向袁世凯要权，以责任内阁总理掌握军政大权。这一点袁世凯是很清楚的。但他视权如命，决不会轻易地将兵权交给段祺瑞。不仅如此，即用人权他也不放。当段祺瑞准备任命自己的心腹徐树铮为国务院秘书长时，袁世凯表示反对。他说：“段总理军人，徐某亦军人，以军人总理而用军人秘书长，大不相宜”，“总理若以徐某之才可用，不妨令其为陆军次长”。袁的态度引起了段祺瑞的强烈不满。当教育总长张国淦将袁世凯的意见转告给他时，他猛地将其烟斗掷于桌上，厉声说：“今日还是如此！”到了如此紧要的关头，袁、段矛盾不仅没有化解，反而还在不断加深。接着，段祺瑞要求袁世凯“裁撤总统府机要局、统率办事处、军政执法处三机关。”袁非但不撤，反暗嘱梁士诒制肘段祺瑞，更激起了段祺瑞的不满。段祺瑞由此开始向反袁方面转化，“段此次出山，本拟于北洋元老商洽北方应付南方之策，虽不惬于袁，尚不肯为己甚。自此以后，即决心与西南通电，互谋对袁，其发端在此，而袁不知也。”不仅如此，段祺瑞还派其弟子曲同丰入陕说服陈树藩，策动陕西独立，“段以不甘附袁，致遭摈斥，至是仍恐袁氏嗣厥阴谋，将以陷己。密族陈树藩逐陆建章，联络阎锡山以制力。时南方诸督均已叛袁，袁以腹背受敌，气焰顿挫”。5月9日，陈树藩宣布陕西独立。陕西独立与四川陈宦独立、湖南汤芗铭独立给袁世凯以致命一击，时人戏称为袁世凯败亡的“催命二陈汤”。袁世凯在最后的紧要关头没有把握好与段祺瑞的关系，加速了自己的灭亡。
袁世凯自蔡锷云南护国讨袁起义后，外有棘手的外交，内有北洋的分崩离析，全国讨袁怒潮势不可挡，众叛亲离，忧郁羞愤交加，精神失常，食量减少，恹恹成病，5月末病情加重，6月初恶化。6月5日，袁自知不起，急召段祺瑞、徐世昌等人安排后事。6月6日上午10时，一代枭雄袁世凯带着几分遗憾，在困恚中死去。他死后，人们打开袁世凯预备的金匮石室，取出袁世凯写好的嘉禾金简，上书袁世凯选定的三个总统候选人，依次为黎元洪、徐世昌、段祺瑞。原来段祺瑞也是袁世凯选定的总统继承人之一。不过有人说，原来的候选人中没有段祺瑞，而是黎元洪、徐世昌、袁克定。袁世凯在病重的时候瞒着儿子改写为段祺瑞的名字，而袁克定还被蒙在鼓里。这个情况如果属实，算是袁世凯死前对追随其一生的段祺瑞的肯定。
随着袁世凯的死去，袁、段矛盾不复存在。精明的段祺瑞以另外的一种姿态展现在人们面前，他以对袁世凯极其崇敬的心情全力为袁治丧。6月7日，黎元洪举行总统就职典礼，其发布的第一道命令，即褒扬袁世凯的功绩，“民国肇兴，由于辛亥之役。前大总统赞成共和，奠定大局，苦心擘画，昕夕勤劳。天不假年，遘疾长逝。追怀首绩，薄海同悲”。这道命令就是段祺瑞拟定的。6月23日，北京政府为袁世凯举行公祭，由段祺瑞代表大总统主祭。28日，段祺瑞亲自执绋送葬，将袁世凯的灵柩一直送往河南彰德，为袁世凯圆满地办完了丧事。袁克定也捐弃前嫌，再三向段祺瑞致谢，说这次操持国葬，“得亏总理”。
袁世凯和段祺瑞结交，从1895年小站练兵到1916年袁世凯称帝死亡，整整20年。在这20年的绝大部分时间，两人关系密切，正如段祺瑞之前辟谣的电文中所说，二人是“感恩知己”“情愈骨肉”。段祺瑞为成就袁世凯一生的业绩忠心耿耿，立下功劳。袁世凯则知人善任，对段层层提拔重用，使段祺瑞成为清末民初政坛上叱咤风云的人物。只是在袁世凯的晚年，因袁世凯称帝才导致了袁、段关系的破裂。袁世凯因称帝而身败名裂，段祺瑞因反对袁称帝而声誉大增。袁世凯死后，段祺瑞取得了南北方的一致推崇，很自然的以国务总理的身份掌握北京政府的实权。但段祺瑞毕竟受袁世凯的影响太深了，袁世凯的衣钵为段祺瑞所继承。段祺瑞后来走的道路，人们还依稀看见袁世凯的身影。
段祺瑞与冯国璋的关系
段祺瑞和冯国璋是老同学，又都是小站宿将，曾与王士珍并称为“北洋三杰”。“北洋三杰”各有称呼，其中王士珍为龙，段祺瑞为虎，冯国璋为狗。
张勋复辟失败后，黎元洪自然下台，由冯国璋代理大总统。从心底说，让冯国璋做总统也不是段祺瑞所希望的。段祺瑞与冯国璋在袁世凯时代就开始互争高低。袁世凯死后，两人一北一南，相互对峙。
就在段祺瑞执政期间，冯国璋经常在南京唱一些不合时宜的调子，使段祺瑞很不痛快。然而，段祺瑞又不能不让冯国璋当总统：其一，冯本来就是副总统；其二，段祺瑞有个野心勃勃的计划，就是武力统一。为了这一目的，他必须使北洋派团结起来，必须得到冯国璋的支持，也就不得不把总统这块肉送给冯国璋。
段祺瑞的确不同常人，他和冯国璋也大不相同。譬如说，冯国璋爱财，段祺瑞不爱财，曾有一次，齐燮元进京送给他二十几件珍玩，他原璧奉还。张作霖送来一大堆东北特产，段祺瑞不能不顾他的面子，破例收下两条江鱼，其余退还。惟一照单全收的一次是冯玉祥送的大南瓜，他 没有退回。
为了控制冯国璋，段祺瑞请冯国璋进京代行总统职权。冯国璋也不是好蒙骗的，他以南方不稳为由婉言拒绝，同时进一步巩固以南京为中心的东南大本营，与段祺瑞对抗。此后，又调亲信部队入京担任总统府的保卫工作，段祺瑞也慷慨答应。冯国璋做好各方面的安排后，便上北京去了。
过去总统是南方人，总理是北方人，所以总搞不好，现在总统、总理都是北方的了，事情果然好办了。8月14日，对德宣战案以总统令顺利发布，然而，好景不长，冯、段之间的分歧日益明显，虎犬之间开始斗法。
问题就出在段祺瑞的武力统一上，段祺瑞主张对西南用兵，实行武力统一，冯国璋则断然反对。
袁世凯死后，北洋系统分化为三块：以段祺瑞为首的皖系、以冯国璋为首的直系和以张作霖为首的奉系。张作霖远在东北，一时与中原无争，而冯、段二人为了谁执牛耳互相争斗，互不相让。段祺瑞的武力统一是有其私心的，想借机扩大皖系力量，既消灭南方异己，又打击直系势力，一举两得，何乐而不为？冯国璋明白这点，自然反对对西南动用武力。
正当总统和总理陷入僵局之际，“长江三督”李纯、陈光远、王占元突然通电主和，掀起了驱段倒阁的先声；接着，靠近直系的湘南各军总司令王汝贤、副司令范国璋也联名通电停战，给段祺瑞杀了个“顺马枪”！段祺瑞腹背受敌，只得暂避风头，于1917年11月15日提出辞呈。
段祺瑞以退为进，冯国璋的日子果然不好过。首先，他居然找不着一个能继任段祺瑞的人；其次，直隶督军曹锟突然摇身一变，成为主战的急先锋，曹锟态度骤变据说是由于徐树铮许给他一个看得见、摸不着的副总统职位。事情到了这个地步，冯国璋只得下了对西南的讨伐令。1比1，段祺瑞和冯国璋前两个回合打了个平手，然而，讨伐令刚发布10天，冯国璋又布告停战。因为，“长江三督”和冯玉祥坚决反对“讨伐”，并且不让南下的部队通过防区，如果硬要通过北洋内部就会大动干戈。何况，布贩子出身的曹锟这时又打起了冯国璋的牌，表示不反对停战。在北洋内部主战和主和两派互相争吵之际，南方提出了五个停战条件，首要的一条是召集国会。
这样，冯国璋又陷入了绝境，和又和不了，战又是死路，真是左右为难，怎么办？冯国璋决定三十六计，走为上计，溜回南京是最好的办法。
1918年1月26日晚，冯国璋以南下巡阅军队为由，乘专车离开天津。殊不知段祺瑞已经断了他的退路，倪嗣冲在蚌埠以保护安全为由截住了冯国璋，冯国璋只好调头回北京。
1月30日，在段祺瑞的强大压力下，冯国璋被迫再次下达了对西南的讨伐令。这时在湖南前线，北洋军连连取得胜利，冯国璋只好通电辞职。在冯国璋辞职的第三天，即3月9日，内阁总理王士珍挂冠而去，避往天津。
既然冯国璋已无能为力，那么何不让他再做几天总统？于是在段祺瑞的授意下，各省主战派纷纷来电挽留冯国璋，同时要求段祺瑞出山。
3月23日，段祺瑞出山就任内阁总理。这位下野4个月零几天的北洋之虎终于压倒了北洋之豹，再次荣登总理宝座，威加海内，其势力达到极盛。4月20日段祺瑞南下犒师，亲临汉口，规定总理车队经过时，临街商铺、居民住宅一律关闭门窗。一家外国报纸说：“这是民国以来从未有过的事情”，这比大清国的钦差要威风得多！
段祺瑞重新上台，冯国璋已无用处，于是决定“合法驱冯”。冯国璋的总统任期是10月10日届满，到时通过合法的手段把他选掉。最终，冯国璋让位于徐世昌，回到直隶河间老家，从此不问政事。
1919年12月28日，冯国璋在北京病逝，段祺瑞急忙赶到冯宅来奠老友，失声痛哭。他深有感触地对靳云鹏说：“你看看我和华甫，这些年闹来闹去，两败俱伤，谁也没能得到好处，想想实在惭愧。”在冯死前，两人已经和好如初，经常在一起把盏小酌，痛感北洋内部派别林立，力量分散。
其实，在与冯国璋和好之前，段祺瑞已经辞职下野。这次辞职，逼迫他的不是别人，乃北洋小字辈吴佩孚。
吴佩孚是曹锟手下的一号大将，毕业于保定陆军速成学堂，属于段祺瑞的学生。在段祺瑞讨伐西南时，吴佩孚是曹锟率领的第一路的先锋。1918年2月晋升为第三师师长，第三师前身乃是赫赫有名的北洋第三镇。
由于入湘后连战连捷，吴佩孚由无名小卒一跃成为直系的“闻人”。吴佩孚多谋善断，他劝曹锟在段祺瑞和冯国璋之间大耍两面手法，先是主战，而后又倒戈一击，宣布主和，使段祺瑞的整个部署全被打乱，此时雪上加霜，段祺瑞向日本秘密借款的事又被揭露出来，国内群情哗然，西方列强纷纷出面施压。为了摆脱窘境，段祺瑞再次以退为进，通电下野。
段祺瑞辞职了，徐世昌当了总统，然而内阁全是段祺瑞的人，段祺瑞依然是一手遮天，把持着北京政府。
冯国璋死后，曹锟、吴佩孚成为直系领袖，与段祺瑞对抗。尤其是吴佩孚，宛然雏凤清于老凤声的姿态，不甘段祺瑞把持中央政权，于是与张作霖秘密联络，决定反皖倒段。
1920年7月，酝酿已久的直皖战争爆发了。战争开始前，段祺瑞充满信心，他认为张作霖向来与曹锟不和，也曾当面保证严守中立。这样，自己已无后患之忧，剩下直、皖单独较量，皖军无论在数量、质量上都高出一筹，段祺瑞自以为胜券在握。
