综观段祺瑞一生，对他政治生涯影响最大的两个人是袁世凯和徐树铮。前者是恩师和知己，后者是幕僚和忠诚的追随者。段祺瑞在袁世凯的提拔重用下进入权力中枢，从此开始了几十年的宦海沉浮。
段祺瑞自小站起家，他对袁世凯的感情认同是恩师和知己。怀着“知恩图报”、“士为知己者死”之心，他尽其所能帮助袁世凯带兵、练兵，并从军事教育出发兴学办教。1898年(清光绪二十四年)10月，新建陆军改名武卫右军，段祺瑞是随营学堂总办和主要授课人，他亲自编撰了许多操练新军的重要教材，如《编练章制》、《战法操典》以及《训练操法详晰图说》等。特别是《训练操法详晰图说》一书，虽然有一个由袁世凯组织的46人的写作班子，但主要编写者是段祺瑞。该书以图文并茂、通俗易懂的方式记载武卫右军的训练、攻守、驻扎，步队的操法、阵法、枪法、战法，炮队的操法、炮法，马队的操法、阵法、战法，工程队操法以及沟垒说、电雷说、测绘说和练兵要则、格式、饷章、规则律令等，成为清末编练新军的教科书。在书中，段祺瑞着重分析了东西方各国军队训练的情况，强调应全面学习德、日操法，他提出“训”与“练”是带好军队的关键，“训以固其心，练以精其技”。所谓“训”，他和袁世凯都认为管好士兵，必须要有严刑峻法，同时须辅以精神思想的统一。为此，袁世凯经常向士兵发表“训词”。在《训练操法详晰图说》中有一篇训词，就这样对士兵说：“历代抽丁征戍，而本朝无之，外国编民入伍，而中国无之，国恩厚矣。尔之祖若宗，食毛践土，沐浴深仁厚泽，垂数百年，及尔之身，优游太平，自顶至踵，何莫非朝廷所赐……今且应募而来，坐食厚饷矣，不知效忠，何以对尔祖父？……古人一饭之赏，终身不忘，受国厚恩，讵止一饭？且尔果有功，必有一功之赏，尔果有劳，必有一劳之酬，国不负尔，尔何负国？夫犬马之贱，尚知报主人，人不如物，尔又何甘？”完全是以儒家的“忠君尽孝”的思想为指导。“练”就是近代军事技能的训练，该书大量沿用了西方强国的军事操典。段祺瑞“因率同监督、教习各员，认真训迪，不惮辛勤”，38岁时，“以武卫右军总办随营学堂劳绩，保准免补知府，以道员仍留原省补用，并加二品衔”。
袁世凯千方百计地笼络这位得力干将。1900年，段祺瑞的原配吴氏去世，袁世凯便把他大太太的干女儿张佩蘅嫁给了他。张氏是原江西巡抚都察院左副都御史张芾的孙女，其父名瀛，字步洲，在山东与袁世凯交好，但早逝；其母陈氏没两年也病逝了。袁世凯的大太太于氏怜其幼年失怙，抚养之如己出。段祺瑞自成了袁世凯的干女婿，两人除多年袍泽关系外，又加上了一层亲戚关系，彼此结合得更为紧密。
深得袁世凯宠信，段祺瑞更不遗余力地为其效力。他一面更卖力地督办军事教育，培养北洋军人；一面暗中等待机会，欲在实战中一展其军事才华，显示其军事实力。1902年初，这机会终于让他等到了。
李鸿章刚刚签订了《辛丑条约》便一命呜呼了，这一纸条约给灾难深重的中国留下了天文数字的赔款。这笔巨款说是由各省分摊，实际上还是以捐税方式，强加到百姓头上。在所有省份中，尤以直隶省承担的赔款数额最大，每年要上缴八十五点八万两。直隶南部的一些州县，原本就地瘠民贫，老百姓平日里维持着艰难生活，现在一下子增加了这么多捐税，其生活困窘可想而知。就连一些中小地主，也因负担过重而纷纷抱怨。民间百姓与洋教士的矛盾，也随着这笔捐税的摊派而日益激化，终于了由景廷滨领导的、以广宗为中心的直隶南部数县农民抗捐抗“洋差”(当地百姓称对外赔款为“洋差”)斗争。
景廷滨（1861-1902)，广宗县东召村人。小地主家庭出身，曾中过武举。景廷滨个性豪爽，为人侠义，颇有号召力。1901年，法国传教士和广宗知县议定该县“洋差”(即地方赔款)为纹银一万多两，强制各村按地亩摊派。这一来不光一贫如洗的农民反对，拥有一些土地的地主也抱怨不堪，抗捐抗“洋差”的斗争越演越烈。景廷滨被公推为联庄会总团头，后又被起义军推为龙团大元帅。
袁世凯接到报告，立即派大名镇总兵何永镇、正定镇总兵董履高带兵镇压。景廷滨率领队伍干脆打起“官逼民反”、“扫清灭洋”的大旗东征西讨。义军主要由广宗、巨鹿、威县等地联庄会的农民构成，另外也有不少义和团的人加入。他们杀死作恶的外国传教士，打败官军的围剿，一时威名大震。
景廷滨高举义旗，中外反对势力都认为这是义和团的崛起。各国驻京公使十万火急地催促清政府进行镇压。西太后命令袁世凯尽快设法平息、剿灭。袁世凯遂一边紧急宣布广宗等县“所摊捐款全行豁免”，以瓦解起义队伍；一边命段祺瑞、倪嗣冲等指挥北洋新军两千多人从保定南下，会同从山东调集的武卫右军先锋队数营，从东西方合围广宗。5月8日，在段祺瑞的指挥下，官军深夜潜入，包围了义军据点件只村，炮兵、步兵、马队配合出击，很快就攻进了村内。只有大刀长矛的农民在景廷滨的指挥下，抵抗持新式武器的官军，终究不敌，牺牲巨大。景廷滨遂率余部突围出去，转战冀豫等地，不久被捕杀。清军占领件只村后，烧杀劫掠，百姓深受其害，甚至连附近的村庄也遭到浩劫。
景廷滨所率义军兵败被杀，威县等地农民为了替他们报仇，又纷纷起义。段祺瑞等再次奉袁世凯之命，镇压了威县等地的起义，受到慈禧的封赏，由正三品的候补知府升为正二品的候补道，一个月后，又被“保准赏戴长翎，加奋勇巴图鲁”——巴图鲁，满语勇士的意思，清代用作称号，赐给作战有功的官员，名为“勇号”。
作为袁世凯的重要助手，兴学办教的同时，段祺瑞这只“北洋之虎”始终是带着兵的：从炮兵第三营统带到陆军第三镇统制、第四镇统带、第六镇统制，教学与实践结合甚紧。那么，这支“西法”操练出来的全部洋枪洋炮装备的新编陆军的实际战斗力如何呢，这就有了1905年的“河间秋操”。
“秋操”，就是秋季的大规模军事演习。在直隶省河间进行的秋操，是清政府为改变各省各练其军以至各有其规的状况而进行的军事演习，同时也为提高新编陆军的实战能力。这是中国历史上第一次大规模的有近代化特色的野战演习，参与这次秋操的官兵人数达到46000多人，全由北洋六镇中抽出，组成南北两军，南军由王英楷充任总统官，北军由段祺瑞充任总统官。按计划，南军驻防江苏北部和山东境内，由山东北上进攻；北军驻防直隶北部和山西境内，由保定南下防御，最后两军要在河间境内会合大操，而后进行阅兵典礼。袁世凯和铁良被派为阅兵大臣，预先在河间设立阅兵处，“以为挈领提纲之所”，派军学司正使冯国璋为总参谋，辅助袁世凯等指挥秋操。各国记者和驻华武官及各省代表也应邀赴河间观看秋操。
秋操开始，段祺瑞身先士卒，率领5000人从南苑出发，冒雨急行军，抢先到达指定地点高阳境内后，他立即派兵侦查南军的虚实。10月25日，南军发起进攻，北军竭力抵御，在段祺瑞的指挥下，加强炮火攻击力度，以攻为守，结果竟然逼得南军节节后退。于是，原计划的南攻北守一下变成北攻南守。南军守也守得顽强，双方都用大炮拼命轰，一时间“日月无光，山河失色”。中外观操者对这次军事演习评价颇高，袁世凯的北洋军因此名声大噪，也给了清政府很大的鼓舞。为检阅其他已练各镇的协同作战能力，清廷在第二年的9月又进行了第二次秋操，谓之“彰德秋操”。
彰德秋操仍由铁良、袁世凯担任阅操大臣，参加官兵总数达到33000多人，仍分南北两军。北军由段祺瑞充任总统官，从驻山东张怀芝为统制的第五镇内抽拨步兵1协，马队1标，工程队1营，从驻南苑第六镇抽拨步兵1协，在驻直隶第四镇内抽拨炮队1标，合编为混成第五镇；又在京旗第一镇内抽拨步兵1协，马、炮队各2营，工程队1营，编作以曹锟为统领的混成第一协，着土黄色军服。南军暂由湖北第八镇统制张彪为总统官，由驻湖北的第八镇及驻河南第二十九混成协组成，着蓝色军服。
此次办彰德秋操显然比第一次的河间秋操有些经验。第八镇和第二十九混成协各乘火车，先一步在新乡会合后，即在辉县进行了一次预演，然后集结在淇县北关一带，等待北军南下。北军在段祺瑞的指挥下，两支人马先分别进行了预演，然后开至彰德府北界刘家辛庄和丰乐镇一带集中。10月20日，南北两军正式形成对峙之局，互派马队侦查对方的布防情况。22日晨，两军在汤阴县东南郊演练冲锋阵法，主要考验双方的骑兵。段祺瑞指挥的北军占到了一点优势。23日晨，两军演习了遭遇战法，双方都在炮火的掩护下进入阵地进行争夺战，南军因为动作慢了些，又被北军抢到了些优势。到了第三天，两军又在彰德府城郊外演习了攻击防守各法。可以说，短短的时间里，近代野外作战的种种阵法、战法、守法几乎演练了一遍，这让国人看到了“西法”练兵的效果，观操的外国人士对秋操的评价也颇高。当然，演习双方都有不少失误，这对刚步入近代化的中国军队而言是情有可原的。但最让人哭笑不得的是，双方都有兵士将演习看作“官兵捉强盗”式的游戏，表现得非常不严肃。
两次秋操，对袁世凯而言，是他十年来抓兵权，培植个人势力取得重大成果的大展示，标志着以他为首领的北洋军事集团的形成；对段祺瑞而言，他排兵布阵的指挥能力都得到了检阅和考验，并以他的实际表现赢得了认可。这无疑使他在袁世凯的心目中又增添了几分重量。
秋操后不久，内线来报：朝廷准备把兵部、练兵处和太仆寺合而为一，设立陆军部，将全国所有新军一并收归陆军部统辖。袁世凯心里明白，这明明是冲他袁世凯来的。谁不知道他以八大臣的身份统领着近十万全副近代化武装的北洋新军在清军中所占的比重？谁不知道北洋六镇地处京畿的重要战略地位？要他交出兵权，特别是把自己精心建成的北洋六镇拱手让给官场政敌，他又实在于心不甘。
内线前脚走，袁世凯召来商议此事的几个亲信后脚就到了。他们有的主张拒不交出兵权，有的认为不妨先拖一拖看看局势的变化。只有段祺瑞几乎不假思索地建议宫保大人主动交出兵权，避过这阵风头，再作计较。段祺瑞的建议袁世凯不是没有想过，但一来他真舍不得把北洋六镇放手，二来他生性多疑，即使对最亲信的人，在关键时刻也不敢完全信任。现在把心腹们召来，一则商议一下，二则也看看他们的态度和表现。
段祺瑞见袁世凯沉默不语，心知这位宫保大人又在动疑事疑人的心思，便用他特有的坚定口气分析道，宫保大人何必担心呢？北洋六镇交给陆军部，不过是个形式而已。六镇官兵哪一个不是只认宫保大人，有几个知道什么陆军部？就是铁良等人有心改组，在这时局动荡之际，想必朝廷也要有所顾忌。“只要我们这些人在职一天，陆军部就翻不了什么大浪”。
段祺瑞的这一番话才叫袁世凯吃了颗定心丸。送走心腹们后不久，袁世凯便上了一份奏折，奏请将北洋六镇中的一、三、五、六镇交归陆军部，归部臣专管；同时，把留下的二、四两镇归直隶总督，也就是仍归他本人掌管。为缩小目标，平定满族贵族对他的不满情绪，袁世凯还呈请朝廷把他的“兼差八项”，即所谓的“八大臣”职务一并撤去。
袁世凯的奏折立即得到清政府的许可，满族将领凤山很快就接任京畿督练新军处会办，接统袁世凯交还的北洋四镇。由此可见，清廷贵族夺取袁世凯的兵权是蓄谋已久，若不是袁世凯见风使舵地主动交出兵权，他个人的危机也是很严重的。
一年后的1907年，清政府又开除袁世凯直隶总督一职，内调为军机大臣兼外务大臣。有学者认为，这是由于清朝贵族见袁世凯仍然握有两镇兵权，不能对他十分放心，虽然军机大臣比总督的地位高，汉人做到军机大臣已是登峰造极，但这实际仍是清廷官场中一种“明升暗降”的做法，削去袁的实权，给他一个空位子而已(陶菊隐．北洋军阀统治时期史话。第1册．生活？读书？新知三联书店，1957．17页)。但也有人认为，上述见解不过只是“循乎常规的推测而已”。因为这时的军机大臣并不是有人说的那样：是戴在那些失宠而又一时不便革职的大臣们头上的花帽子。袁世凯内调后，继任直隶总督杨士骧仍是他的心腹，北洋各级军官，均为袁氏武备派旧人，非袁世凯不能调遣。因此，“袁世凯内调以后，其势力不但丝毫未损，却正好可以利用自己主持全局的地位发展力量，推行政见”(郭剑林，纪能文．诡异总统袁世凯．吉林文史出版社，1995．198～199页)。不管怎么说，袁世凯这次主动交出兵权，多少起到了自保的作用，对他本人及他的军事实力触及并不大。
1908年11月14日晚18时许，被幽禁十年的光绪帝在瀛台涵元殿驾崩；15日上午8时，七十四岁的慈禧太后也在仪銮殿内晏驾。不满三岁的溥仪继承帝位，醇亲王载沣晋号为监国摄政王，做了清朝最末一代的统治者。朝中最高统治者的易人，给袁世凯带来了真正的危机，甚至危及性命。当年，袁世凯伪装赞成变法，骗取光绪帝信任，后又见风使舵，在关键时刻向慈禧的亲信荣禄告密，背叛新政，导致“戊戌变法”失败，并因此而获慈禧太后的宠信，使慈禧太后把已经出手“归政”于光绪的大权又公然全部夺回到自己手中。因而，无论后来清廷权贵怎么向慈禧弹劾袁世凯，慈禧都没有真正把袁置于死地。现在，被袁世凯出卖并因而遭十年囚禁的光绪帝之弟载沣独揽朝权，袁世凯再无慈禧可恃，加之慈禧死后，来自各方的舆论都把戊戌年间光绪帝的厄运算到了袁世凯的头上，这样的时局对袁世凯来说真的是如临深渊，如履薄冰。
据说，当袁世凯听到慈禧太后驾崩的消息后，从来没有像那天一样被吓得魂不附体。他匆匆逃到天津，躲在亲戚盐商何颐臣的家里，整天笼罩在大祸临头的恐惧之中。
1909年1月2日，慈禧驾崩五十七天之后，一道关于处分袁世凯的上谕终于正式下达：
“军机大臣、外务尚书袁世凯，夙承先朝屡加擢用，朕御极后，复予懋赏。正其才可用，俾效驱驰，不意袁世凯现患足疾，步履维艰，难胜职任。袁世凯着即开缺回籍养疴，以示体恤之意。”(宣统政纪．卷一．十二页)
