李鸿章得知指挥员是安徽老乡，其祖父等家族成员都曾是自己手下的淮军官兵，非常高兴。接着又当面考了一些军事试题，段都对答如流。李鸿章兴奋得击节称赞，当即表扬段祺瑞是“熟知军事，俾易造就”，是可用之才。
1887年夏季，李鸿章亲赴天津武备学堂主持第一届学员的毕业考试，段祺瑞以最优等的成绩毕业。李在给朝廷的奏折中赞扬段祺瑞等学生“各项操法，一律娴熟，试以炮台工程做法及测绘，无不洞悉要领……”
1888年冬天，五位赴德国留学生的学员名单呈送到李鸿章的手中审批。可是，李在这份留学德国的学生名单里，竟然看不到段祺瑞的名字。李鸿章认真审视了片刻，大笔一挥，将其中一名山东籍学生的名字划掉，换上了段祺瑞。
1889年春天，段祺瑞告别妻子和仅有一周岁的儿子，和其他四个同学来到德国柏林陆军学院，学习军事理论和各种操练课程。一年后，他们又奉命到鲁尔区埃森克虏伯兵工厂，进行火炮实习。
克虏伯兵工厂生产的各种威力巨大的先进火炮，让他们真正感受到“师夷长技”的魅力。为了使自己的国家摆脱落后挨打、备受屈辱的局面，他们拼命用功学习。
弗里茨·克虏伯从留德督学荫昌转交的李鸿章的信函里，知道这批学生是中国的精英。但因为忙于公务，始终无法抽身前往探望。当他知道这些学生的聪颖与吃苦精神事迹后，便在百忙之中抽出时间，亲自前往梅喷射击场教授课程。
1890年春天，清廷特使洪春代表皇帝前往德国埃森探望留学生。段祺瑞及其同学以娴熟的技术操演了各种口径的克虏伯大炮，并以优秀的测距、瞄准、射击成绩，获得洪春和弗里茨·克虏伯的赞赏。
完成学业后，四位同学都先后回国，段祺瑞又奉命留在克虏伯兵工厂学习弹壳加工、炮管膛削、铣磨来福线、浇铸优质钢、检验钢材压力、拉力试验，各类火炮的型制构造、使用和保养等课程。
1890年冬天，25岁的段祺瑞自德国归来，当他前来跪叩李鸿章之际，心里一阵惊惶。李用凌厉的目光审视他后脑勺上的长辫并没有造假之后，才和颜悦色地说：“你的责任是报效国家而不是剪辫子！”段祺瑞满脸羞愧。因为在留学时，他曾一度想剪掉被外国人耻笑的辫子。
不久，段祺瑞被李鸿章简派为北洋军械局要员。1891年被调回威海，任随营教习五年之久。
1895年春天中日甲午之战时，段祺瑞带领武备学堂的学生帮助威海卫守军搬运炮弹，并亲自操炮与日军展开殊死激战。
1895年12月，段祺瑞随袁世凯到天津小站编练新军，任炮兵营统带，随营学堂总办兼炮科班监督和总教习，培养出中国第一支野战炮兵部队并任司令。
三一八：民国最黑暗的一天
1926年3月18日，中共北方区委、国民党北京市党部组织学生联合会等60多个团体和北京的北京大学、北京师范大学、北京女子师范大学、医科大学、交通大学、工业大学、清华学校、农业大学、法政大学、中国大学、朝阳大学、燕京大学、中法大学、美术专门学校、通才商业学校、大女附中、艺文中学(现二十八中)、志成中学(现三十五中)等数十所高等、中等学校的学生以及京绥铁路及财政部印刷局的一些工人市民等各界人民群众，在中国共产党北方区党委书记李大钊的领导下，在天安门前举行游行集会。广场北面，临时搭建的主席台上悬挂着孙中山先生的遗像和他撰写的对联“革命尚未成功，同志仍须努力”。台前横幅上写着“北京各界坚决反对八国最后通牒示威大会”。会场悬挂“驳复列强最后通牒”、“撤退外国兵舰”等标语和请愿受伤代表的血衣，血衣上书“段祺瑞铁蹄下之血”八个大字。上午九时许，近两万北京爱国青年和各界人士从四面八方汇集到天安门广场。一时间，人声鼎沸，群情激奋，歌声口号声不绝于耳。徐谦、李大钊、顾孟余等人为大会主席团成员，大会由北京学联领导人杨景山(北京大学学生、中共党员，后与李大钊同志一起被敌人杀害)、姚宗贤(中共党员，北京美专学生，北京学联负责人之一，当天被打死)等主持，抗议日本军舰侵入大沽口、炮轰国民军，声讨英美日等八国无理通牒中国的罪行。大会主席国民党北京市党部委员中俄大学校长徐谦发表了慷慨激昂的讲话，他深刻地指出：“八国最后通牒支援奉系军阀，助长中国内乱。它借口维护《辛丑条约》，但它的苛刻程度，又远远超过《辛丑条约》。它要求双方停止战事和撤除障碍，实际上就是要我们不还手，《辛丑条约》哪有这样的规定！我们要求政府坚决拒绝最后通牒，还要废除一切不平等条约。”广场上与会民众群情沸腾，“打倒日本帝国主义”、“坚决抵制最后通牒”等口号此起彼伏。大会通过了《反对列强最后通牒国民大会致八国公使书》，以及八项决议案。
段祺瑞政府派代表到天安门国民大会上，对17日卫队行凶事件表示歉意，但没能平息与会爱国青年的愤怒。会后，由2000多名满怀爱国义愤的群众组成的游行示威大军斗志昂扬地向段祺瑞执政府行进，要求面见段祺瑞请愿。由共产党员王一飞担任游行总指挥，中共北方区委负责人李大钊、赵世炎、陈乔年等都参加了游行。或有老成者害怕政府会弹压，李大钊登高疾呼，“大家不要害怕，他们不敢把我们怎么样！”游行队伍绵延数里，人们手执小旗，高呼“打倒帝国主义和卖国贼！”“反对卖国投降！”“坚决抵制最后通牒！”“驱逐八国公使！”等口号，经东长安街、东单牌楼、米市大街、东四牌楼，然后进入铁狮子胡同东口。在行经街道路口时，市民们涌向前来鼓掌致意，有的还加入到游行队伍中。
当3000人游行队伍到达铁狮子胡同执政府的院内后，与手持步枪、棍棒、大刀的武装卫队严阵对峙。正在执政府里面开例会的总理及总长们被游行队伍的声势吓得面面相觑，全体没了主意，便匆匆散会，只留下一个秘书长应付。游行组织方派安体诚等五人为代表向带岗守卫的军官说明，要求段祺瑞、贾德耀面见群众代表，并提出了条件，要求政府驱逐八国公使，要求八国政府向我道歉，阵亡的国民军将士出殡日各驻华机关要下半旗志哀。等了半小时，一个军官出来说：“执政有病休息，不在这里。”接着又用威胁的口吻说，“你们赶快走开吧。”代表们仍然心平气和，一再说明请愿只是反对帝国主义干涉中国内政。这个军官拒不答复。正在吉兆胡同家中的段祺瑞并没有来执政府接见游行群众。代表们出来向众人报告交涉情况，群情激奋，要求去吉兆胡同段宅找段祺瑞。在执政府院内越来越激愤的对峙中，逐渐演变成了摩擦，摩擦点燃了火花。据事后执政府含糊其辞地宣称，示威者中有人执带铁钉的棍子并抢士兵的枪，导致卫队开枪。示威者则说是执政府门楼的窗户里向外叭、叭、叭地放了三枪(手枪或信号枪声)，在卫队旅长指挥下，大门口的卫队在不做任何警告的情况下立即行动，东西两辕门的卫兵也同时开枪，竟向手无寸铁的学生排枪平射。一时警笛狂鸣，枪声密如连珠，枪弹直向群众飞来。一批批手无寸铁的群众倒在血泊之中。周围胡同伏兵四起，手持大刀、棍棒，骑着高头大马的刽子手追打、砍杀学生，演出了一场血肉飞溅的流血惨剧，群众相互救援，拼力反抗，也有不少人是在躲避枪弹时“被群众挤倒后踏死或踏伤”，不到200平方米的空场，刹那间变成了尸山血海。北京女子师范大学的学生自治会主席，年仅22岁的刘和珍当时剪了发辫，由于留短发的女生并不多，因此她成为敌人射击的目标。子弹从刘和珍背部射入，斜穿心肺，她仍然顽强地挺起身子，对前来救护的同学说：“你们快走吧，不要管我。”这时，反动军警又用木棍猛打，致使刘和珍终惨遭毒手。她的校友杨德群见她倒下，便不顾一切前来抢救，也被子弹击中，残忍的军警又向她头部、胸部猛击两棍，致使她当场英勇牺牲。在这场持续半小时之久的、惨绝人寰的大屠杀中，共有26人当场死亡，重伤200余人，送医院抢救无效又死亡21人，共47人牺牲。当日的死者中，还有两个警察厅的便衣和一个执政府的卫士。这就是震惊中外的“三一八”惨案。
惨案发生后，社会各界大为震惊，无不为段祺瑞执政府屠杀手无寸铁的爱国群众的兽行而发指。在这次惨案中，据目击者称，军警放枪前后均以吹哨为准，所有死者都是弹从背部或脑后穿入而致死。由此可见，这是一次有计划、有预谋的屠杀。“三一八”惨案是人类世界的大耻辱，就连当时帝国主义的报纸--《泰晤士报》，也称之“兽性”的“惊人惨案”。
执政段祺瑞在知道政府卫队打死徒手请愿的学生之后，顿足长叹：“一世清名，毁于一旦！”随即赶到现场，面对死者长跪不起，之后又处罚了凶手，表示愿承担全部的责任，亲自慰问和抚恤遇难学生家长，从未阻止新闻界报道事件经过，他又宣布自己决定终身食素，以示对这场杀戮的忏悔。惨案发生后十年中，段都不吃荤腥，至死不改。
“三一八惨案”以后，段祺瑞彻底失去了民心。
严谨治家，一生清廉
段祺瑞先后娶了两房太太和五房姨太太，第一位太太吴氏去世后，留下一儿一女。第二位太太张蘅，也就是袁世凯的干女儿，生了四个女儿。而他的五房姨太太，都是张夫人先后为段祺瑞讨进门的。张夫人因为没有儿子，生怕别人说她不够贤惠，不得已而为之。
大姨太陈氏，早在1914年便过世了，留下一儿一女均不幸早夭折；二姨太边氏只生了一个女儿；三姨太和四姨太都姓刘，仆人们称她们为刘三、刘四。五姨太姓李，便顺着称为李五。这三个姨太出身都很低微，都是花钱买进门的。
段祺瑞脾气很大，在家中说一不二，对夫人、姨太太要求很严，但从某种角度来说，他的治家却很失败。他本人素有“六不总理”之称，即不贪污肥己、不卖官鬻爵、不抽大烟、不酗酒、不嫖娼、不赌钱。他尤其痛恨抽大烟，没想到他的夫人、姨太太个个背着他抽大烟。
段祺瑞下野之初，住在天津日租界须磨街他的部下魏宗瀚的公馆里，第二年应皖系下属田中玉之邀赴大连疗养，随行的有张夫人和二姨太。留在家里的几个姨太没了管束，常常打扮得花枝招展偷偷溜出去看电影、听戏、划船、逛市场，四处招蜂引蝶，常常半夜三更才回公馆。
段祺瑞返回天津后，突然发现家里有什么不对劲。下人在窃窃私语，三姨太和四姨太说话总是躲躲闪闪。有天夜里段祺瑞睡不着，一个人起来到院子里散步，正好撞到三姨太从外面归来。当时段祺瑞的惊愕无异于见到了外星人，他完全没有想到自己的女人竟然打扮得像歌女，而且夜半归来！
三姨太也惊呆了，吓坏了。她了解段祺瑞的脾气，知道等待自己的凶多吉少。段祺瑞注视着三姨太，照着三姨太的脸一掌打过去，呵斥道：“不要脸的东西！”
第二天，段祺瑞吩咐张夫人将三姨太送回在北京的娘家。张夫人早已听说了三姨太和四姨太的风流韵事，只是一直瞒着段祺瑞。以段祺瑞的脾气，她担心会闹出什么大事。如今见段祺瑞如此冷静，倒也放下心来。只是三姨太哭着闹着不肯离去，让她有些于心不忍。
送走了三姨太，不久四姨太的风流韵事又传了出来，段祺瑞一怒之下又将四姨太休掉，打发回了娘家。
对于子女，段祺瑞更是要求严格，而且从不给什么特殊照顾。吴夫人所生长子段宏业，从小寄养在亲戚家，十几岁才回到段祺瑞身边，虽然没有受过良好教育，但与段祺瑞一样，十分喜爱围棋，是当时围棋界里响当当的人物。但段祺瑞仍没有为他的前途铺平道路，而是教育他从最底层做起，靠自己的能力一步步向高处攀登。
段祺瑞治家严明，夫人姨太太子女都不得干预公事。有一次一个姨太太想替一位老妈子的亲戚谋个差使，在段祺瑞面前求情，段祺瑞一听气得鼻子都歪了，怒斥道：“你想买官吗？得了人家多少钱，快说！”
这位姨太太委屈得当场就流下了眼泪，但段祺瑞毫无怜香惜玉之情，又将她狠狠训斥一番才罢休。从此，家中再也没有人敢向段祺瑞求情。
段祺瑞当官以后，合肥老家经常来人拜访，目的是想求他给谋个好差使，段祺瑞一概不予办理，只是好吃好喝地招待这些亲戚几日，然后给些钱将他们打发走。就连他的胞弟段启甫上门，他也是毫无情面。当时他已任国务总理，安排个差使是一件很简单的事，但段祺瑞认为段启甫不是做官的料，对他说：“你不适合做官，还是给你一笔钱，回家做个买卖吧。”
因此，段祺瑞的亲朋好友中很少有做官和发大财的，这在当时的军政要员中极为罕见。
唯一的一次破例，是段祺瑞为他的一个远房侄子安排了事由。他见那个侄子能吃苦，是个可造之材，就给他谋了个军校的勤杂工。出乎段祺瑞意料的是，这个侄子没当几天勤杂工，很快被升为军需采办。这不是因为他个人有什么能力，而是因为他是段祺瑞的亲戚，军校负责人处处巴结他，心甘情愿把这个肥缺送给他。
这个侄子当上军需采办后，异常高兴，决心尽职尽责做好这份工作，可每天看着从自己手中流过的白花花的银子，他很快便把持不住，手脚变得不干净起来。直到捞足了油水，他才想到这一切都是沾了族叔的光，于是决定登门拜访段祺瑞。
一进段府，这位侄子看到一位妇女正和一个米贩子讨价还价。妇女虽衣着普通，但言谈举止很不一般，一看就是段府女主人。这位侄子不由得暗暗吃惊，想不到族叔做了那么大的官，家里买米还要如此算计。
这位侄子没有进去拜见族叔，而是转身离开了段府。第二天，他带着一辆大车来到段府，车上装满了米面油盐、鸡鸭鱼肉等食物。他向段祺瑞的续弦夫人张蘅做了自我介绍，然后说：“以后我每月都来送食物，您再也不用和那些小贩子讨价还价了！”临走前，他还特意嘱咐张夫人，不要将此事告知族叔，他早就听说段祺瑞不收礼，担心这些东西被送回。
可是段祺瑞治家甚严，张夫人岂敢隐瞒，当天晚上便将此事告诉了段祺瑞，段祺瑞听后立即火冒三丈：“这小子哪来这么多钱？还要每月都送，我倒要看看他这些钱是哪儿来的！”
不久后，段祺瑞到军校视察，特意向学员们打听伙食问题，学员们普遍反映菜种单一，而且不新鲜，米也不好。段祺瑞气呼呼地来到伙房一看，果然如学员们所说，他立刻叫来军需主任，劈头就是一顿臭骂。军需主任哆哆嗦嗦，只是嗫嚅道：“这不关我的事，这不关我的事……”再问他，他又说不知道，气得段祺瑞吼道：“不知道是吧，那就给我拖出去打50军棍！”
