1865年3月6日（清同治四年二月初九日）生于六安县太平集迤北三里祖居，祖父段佩（字韫山）早年曾与刘铭传贩过私盐、办过团练，镇压捻军有功，官淮军统领，领兵在外，父段从文在家务农，以租地耕种为生，母亲范氏。
1869年初，段从文为避刘姓土豪报复（土豪刘楠、刘枢横行乡里，段佩仗义诛杀，遂结下仇怨），举家搬迁到寿州炎刘庙。
1870年，段佩回乡探亲，决定迁至合肥城西桥大陶岗（今肥西县三十岗乡陶岗村）农村定居，购置了百余亩田地。
1872年，祖父段佩时任铭军直属马队三营统领，段祺瑞随到江苏宿迁兵营里，到附近私塾读书。
1879年4月22日（光绪五年闰三月初二日），祖父段佩（以功累保提督衔记名总兵、励勇巴图鲁，授荣禄大夫、振威将军）去世，段祺瑞哭护灵柩归葬合肥城西乡大陶岗，从此家道中落，到侯大卫村续读了一年私塾后辍学。
1881年，段祺瑞怀揣一块银元徒步数十天二千余里，来到山东威海投奔任管带的族叔段从德，被收留在军营中作哨书。
1882年10月1日，父亲段从文在看望他的归途上被同行的两人害死，段祺瑞请假奔丧未获准，只得致函合肥知县，请求缉凶，不久案破，凶犯被正法。
1883年5月10日母亲范氏因悲伤过度去世，抛下大妹启英十二岁，二弟启辅十岁，小弟启勋九岁，段祺瑞返乡治丧后回军营。
1885年6月，清朝洋务派代表李鸿章创办北洋武备学堂，9月段祺瑞以优异成绩考入武备学堂第一期预备生，旋分入炮兵科。段祺瑞“攻业颇勤敏，以力学不倦见称于当时，治学既专，每届学校试验，辄冠其侪辈，与王士珍等齐名于世”，受到李鸿章的器重。
1886年，段祺瑞与宿迁举人吴懋伟之女吴氏在合肥结婚。
1887年11月，段祺瑞以“最优等”成绩从天津武备学堂炮科毕业，被派往旅顺督建炮台。
1888年冬，段祺瑞以第一名的成绩被获准与其它四位同学到德国留学。
1889年春到德国，以官费入柏林军校，学习一年半炮兵，后独自留在埃森克虏伯兵工厂实习半年。
1890年秋，段祺瑞学成回国，派任北洋军械局委员。
1891年调到威海随营武备学堂任教官。
1894年7月“中日甲午战争”爆发，段祺瑞与学生一道为阵地搬运炮弹，抗击日军。
1896年初，段祺瑞被调往天津小站，任新建陆军左翼炮队第三营统带，旋兼行营武备学堂炮队兵官学堂监督、代理总教习。
1898年9月9日，以北洋新建陆军创设随营武备学堂期满告成，清廷给予炮队学堂监督段祺瑞等升叙加衔。12月新建陆军编为武卫右军，段祺瑞仍统领炮队，并赴日本观操。
1899年 12月，随工部右侍郎、山东巡抚袁世凯率武卫右军到山东镇压义和团，成为袁世凯扩编北洋军的重要帮手，编撰了许多本操练章典，是北洋三杰（北洋之龙王士珍、北洋之虎段祺瑞、北洋之豹冯国璋）之一。
1900年5月18日，段祺瑞原配吴氏在济南病故。1901年5月31日，袁世凯将义女张佩蘅（江西巡抚、都察院左副都御史张芾之孙女）嫁与段祺瑞为继室。11月7日袁世凯任直隶总督，保奏段祺瑞“以知府仍留原省补用，并加三品衔”，“兼充武卫右军各学堂总办”。1902年5月参与镇压广宗县景廷宾起义。6月任北洋军政司参谋处总办，全面主持编练新军，7月9日升“道员留直隶补用，并加二品衔”。8月9日因镇压直隶广宗、威县反洋教团众“劳绩”，被袁世凯保奏，准赏戴花翎，加“奋勇巴图鲁”勇号。1903年12月4日清廷成立练兵处（庆亲王奕匡为总理练兵大臣，袁世凯为会办大臣，铁良为襄办大臣，徐世昌为总提调），段祺瑞任练兵处军令司正使，加副都统衔。
1904年6月，“武卫右军”改为“北洋陆军”，段祺瑞任第三镇统制官，辖第五协（统领雷震春）、第六协（统领张永成）、马标（统带张国泰）。
1905年5月北洋常备军第四镇成立，段祺瑞调任统制官，辖第七协（统领杨善德）、第八协（统领陈光远）、马协（统带孟恩远）。9月转任第六镇统制。10月清北洋军在河间府举行第一次秋操，段祺瑞任“北军”总统官。
1906年2月复任第三镇统制，驻宝鼎，兼督理北洋武备各学堂。3月17日补授福建汀州镇总兵，仍留北洋原任。5月8日清在保定创办“陆军行营军官学堂”，段祺瑞兼任学堂督办，北洋军官多是他的门生故吏。10月清政府在河南彰德举行南北两军第二次秋操，段祺瑞再次担任“北军”总统官。11月20日清廷准袁世凯开去各项兼差，陆军第三镇等收归陆军部统辖。
1907年9月，清政府调袁世凯任军机大臣兼外务部尚书，削去兵权，10月16日段祺瑞被授镶黄旗汉军副都统，专意督办陆军各学堂。
1908年10月17日，段祺瑞任会考陆军留学毕业生主试大臣。11月慈禧和光绪先后病死，摄政王载沣欲杀袁世凯，段祺瑞制造假的兵变，致使载沣不敢动手。
1909年1月2日，军机大臣、外务部尚书袁世凯被“着即开缺，回籍养疴”，袁世凯临走前将北京私宅赠与段祺瑞，段祺瑞仍留军中，常赴河南彰德与袁世凯密议。12月29日又任陆军第六镇统制。
1910年5月25日，清廷以段祺瑞督办北洋陆军学务有功，赏头品顶戴。12月18日加侍郎衔，外放任江北提督，驻江苏清江浦，负责本地治安。
1911年10月10日，革命党人在武昌发动起义。武昌起义，给袁世凯一个难得的机会。
清政府开始决定由陆军大臣荫昌赴鄂剿办，然而，荫昌手中无一兵一卒，好不容易调来一些军队，却又不听指挥。10月11日，汉阳光复，12日，武汉三镇全部光复，接着，许多地方出现了动荡的前兆。
面对分崩离析的局面，载沣束手无策，内阁总理大臣奕匡和内阁协理大臣徐世昌、那桐乘机进言重新起用袁世凯，处在窘境中的载沣别无良策只好采纳。10月14日，武昌首义后第四天，清政府任命袁世凯为湖广总督兼办剿抚事宜。段祺瑞接到袁世凯密电，去彰德开会。
10月20日，徐世昌秘密赶赴彰德，和袁世凯密商后，带着袁世凯提出的六个条件回到了北京。这六个条件是：明年即召开国会；组织责任内阁；宽容参与此次事件诸人；解除党禁；须委以指挥水陆各军及关于军队编制之全权；须予以十分充足之军费。清政府在一筹莫展之下，只好饮鸩止渴，10月27日，连续下四道上谕：召回陆军大臣荫昌，委任冯国璋和段祺瑞分别统率第一军和第二军，授袁世凯为钦差大臣，节制海陆各军等。
10月30日，下罪己诏，11月2日，任命袁为内阁总理大臣。袁世凯大权在握，夙愿已偿，立即电令冯国璋向汉口发动进攻，同时电令段祺瑞的第二军由洛阳向前推进，并沿途布置。这之前，10月29日，北方发生了一件意料不到的事，二十镇统制张绍曾联合部分将领，屯兵滦州，发动了兵变。袁世凯对此大发其火，对段祺瑞说：“我说过北方不能乱。我最担心的也在此。现在张绍曾果然闹起来了。朝廷上下，为之震动，京畿直隶，人心不安。此事必须尽快解决！”
11月2日，为了稳住二十镇，清政府特派第六镇统制吴禄贞前往滦州抚慰，谁知吴禄贞是个比张绍曾更为激进的革命党人。他在娘子关正太铁路车站与阎锡山秘密会晤，商定组织燕晋联军，三路夹击北京，吴被推为联合大都督兼总司令。袁世凯收买人刺杀了吴禄贞，二十镇兵变也随之失败。
1月17日，清政府电命段祺瑞为湖广总督，兼办剿抚事宜，12月8日，又让冯段对调，冯为第二军军统，段为第一军军统。正当冯国璋莫名其妙时，袁世凯又调冯国璋回北京，任命段祺瑞为第一军军统兼第二军军统。
12月29日，南方选举孙中山为临时大总统，段祺瑞极为震惊。
1912年1月1日，就在孙中山宣誓就职的那一天，段祺瑞纠合冯国璋、段芝贵等北洋将领，联名通电反对共和，主张立宪，声称“若以少数意见采用共和政体，必誓死反抗”。
在各方面的压力下，孙中山妥协了。袁世凯在得到南方“清室退位后，推举袁世凯为大总统”的承诺之后，开始向清王朝施加压力。1月16日，袁世凯在去外交部的途中，有人向他投掷炸弹。袁世凯虽然秋毫无损，却借机不再上朝，躲在幕后，指使部下一个个跳出来逼宫。
1月20日，段芝贵到了湖北前线。1月23日，湖广总督兼第一军军统段祺瑞从前线发来电报，一方面报告军队倾向共和，军心不稳；另一方面表示自己将尽力而为，但“成败利钝未敢料也”，借此给清王朝以威胁。1月25日，段祺瑞致电内阁，赤裸裸地开始了逼宫。他在电报中声称，前方将领及各地将领均表示赞同共和(这时的段祺瑞似乎忘了不久前表示要誓死反对共和维护立宪)，听说载沣、载泽阻挠共和，多愤愤不平，甚至扬言“立即暴动”。此间恫吓之心，溢于言表。
段祺瑞唱起了红脸，袁世凯却一副“忠君爱国”的样子，联同徐世昌、冯国璋、王士珍复电，希望段祺瑞劝解诸将领，不要轻举妄动。就在当天，段祺瑞领衔、北方诸军统兵将领42人、士兵40万人联名要求清廷宣布共和的通电已经公之于众。这封电报，宛如一颗巨大的炸弹，掀起了狂波巨澜。当内阁会议还在为共和和立宪喋喋不休时，袁世凯一言不发，出示了这封电报，人人变色，大局遂定，连素来强硬的良弼也在赞成共和的名单上签名。段祺瑞一电之威，可想而知！
1月30日，隆裕太后召开御前会议，自动颁布共和，授予袁世凯全权与南方商酌退位条件。2月5日，段祺瑞趁热打铁，率武汉战区十将官再次逼宫，催发共和诏旨。电报称：
三年以来，皇族之破坏大局，罪实难数。事至今日，乃并皇太后皇上欲求一安富尊荣之典，四万万人欲求一生活之路而不见许。祖宗有知，能不恫乎。盖国体一日不决，则百姓之因兵匪冻馁死于非命者日何啻数万……谨率全军将日入京，与王公部陈利害。
段祺瑞居然要率军入京，清王朝一片混乱，人人自危。
1912年2月13日，清帝退位。2月15日，袁世凯在参议院选举中以全票当选为临时大总统，俨然成为共和的缔造者，参议院甚至称其为“世界之第二华盛顿，我中华民国之第一华盛顿”。
而段祺瑞也因为逼宫有功，被人视为“一造共和”的英雄。10月初，袁世凯当选为正式总统。
10月10日，在太和殿举行了总统就职和开国纪念的盛大庆典，下午，北洋军举行了盛大阅兵式，由段祺瑞作检阅总指挥长。
天气虽然不好，下起了雨，但阅兵却极为成功，袁世凯极为满意，说：“我看陆军总长该记头一功。”“总统过奖了。”段祺瑞推辞道。
雨越下越大，大家劝袁世凯回去休息，袁世凯临走前，把自己的黑色呢披风披到段祺瑞身上，说：“都是自己人，不必推辞。”受此殊荣，段祺瑞极为感动，不久，他又为袁世凯去了一块心病。
段祺瑞秉性刚直，刚愎好强，对袁世凯尽心尽力却不事趋奉，因而对袁世凯包办一切的做法加以抵触。袁世凯生性狐疑，加上旁人的挑拨，袁世凯对段祺瑞越来越不放心了。
1914年5月9日，袁世凯决定在原来总统府军事处的基础上，建立陆海军大元帅统率办事处，由他亲自掌握，陆、海、参谋三部总长均为办事处的大办事员，实际上是收回了分散于三部的军权。事情一开始，袁世凯瞒着段祺瑞，而让坂西利八郎和王士珍参与筹划，等到事情差不多时，才告诉段祺瑞。袁世凯的猜忌，使段祺瑞充满了怨气，他对身边的人发牢骚说：“当年朝廷不信任项城，今天倒好，总统也不相信我了。如此下去，他还能信谁呀？”
袁世凯听到了这话，解释说，当时段祺瑞身在开封，没法与他商讨，最后让段祺瑞不要多心。段祺瑞更为寒心，自己的话怎么这样快就传进了袁世凯的耳朵？
到了八九月份，袁世凯决定成立模范团。成立模范团，表明袁对小站宿将的疑忌，要以模范团来改造北洋军，而袁克定于此事最为热心。模范团原准备建成一个军，但袁世凯怕引起北洋将领的反感与不安，于是缩小为师，继而为团，其实相当于个混成旅。其人员配备，均由袁克定操纵，其装备、待遇均优于其他部队，俨然成为袁世凯的“御林军”。
段祺瑞对此事一直持反对态度，当袁世凯问他时也不置可否，以后统率办事处又专门开过几次会商议模范团的事，段祺瑞不是借故不到，就是到会一言不发。袁世凯本想让袁克定当团长，段祺瑞则当面否定说：“我看他不行吧。”半天没有结果，袁世凯怒气冲冲地说：“你看我行不行？”于是，袁世凯自兼模范团团长。段祺瑞嘴上不说，心中暗自生气。段祺瑞有个外号叫“段歪鼻”，一生气就歪鼻子，但这种情况很少见，只有在他极其恼怒的情况下才出现。这一次，段祺瑞的鼻子歪了。
1914年10月，模范团成立了，袁世凯自兼团长，但到第二期时，便把团长让给了袁克定。模范团一事，加深了袁氏父子和段祺瑞之间的裂痕。
1912年3月，袁世凯想当皇帝的谣言开始流传。6月25日，他专门为此通电辟谣。到1913年9月二次革命被镇压下去后，袁的亲信就有人进言，隐隐地提到实行帝制。
1915年11月，袁世凯公开暗示了自己对帝制的态度，他说：“宣统满族，业已让位，果要皇帝，白属汉族，清系自明取得，便当找姓朱的，最好是明洪武的后人，如寻不着，朱总长(朱启钤时任交通总长)也可以做。”12月23日，袁世凯仿照历代皇帝在天坛举行了祭天仪式，把复古浪潮推向了顶峰。
在帝制活动逐渐公开之时，段祺瑞基于对袁世凯当年的“知遇之恩”，再次慨然相劝，袁世凯却敷衍了事。看到了袁世凯对谈话心不在焉的样子，段祺瑞动情地说：“总统，祺瑞自小站跟随总统，鞍前马后，将近二十一年，总统知遇之恩，祺瑞没齿难忘。如今国势危殆，倘有变动，后果不堪设想。祺瑞无知，赤诚可鉴，望大总统三思。”
袁世凯也装作推心置腹的样子说道：“芝泉，你是我的老部下，难道还不了解我吗？我可以告诉你，皇帝我是绝不做的。如今我这个大总统与皇帝又有何异？如为儿孙计则更不可。克定是个残废，其他几个亦无此才能。你尽可放心，不要胡思乱想。”
1915年12月12日，袁世凯帝制自为，改中华民国为中华帝国。次日，袁在居仁堂匆匆登基。段祺瑞没有参加“登基大典”，他在公馆与徐树铮说：“项城作孽啊！”
徐树铮也慨叹：“天作孽，犹可违；自作孽，不可活。”
