1901年段祺瑞迎娶了袁世凱的義女張佩蘅（江西巡撫、都察院左副都御史張芾之孫女）為繼室，從此開始步入了政壇。自此先後擔任了北洋軍政司參謀處總辦、練兵處軍令司正使，加副都統銜、北洋陸軍第三鎮統制官，轄第五協等職位。
1907年10月16日段祺瑞被授鑲黃旗漢軍副都統，專意督辦陸軍各學堂。1910年5月25日，清廷又以段祺瑞督辦北洋陸軍學務有功，賞頭品頂戴。12月18日加侍郎銜，外放任江北提督，駐江蘇清江浦，負責本地治安。
​​段祺瑞這位號稱「六不總理」（不抽、不喝、不嫖、不賭、不貪、不佔），曾四任總理，四任陸軍總長，一任參謀總長，一任國家元首，是中國現代化軍隊的第一任陸軍總長和炮兵司令。又擔任過中國第一所現代化軍事學校——保定軍校的總辦。他雖為軍閥，但人格形象頗佳，由於篤信佛教，平日多半吃齋，為人嚴肅刻板，不苟言笑，生活樸素，清廉如水，無積蓄、無房產，享譽於世。在物慾橫流、無官不貪的民國時期，他可以算得上是個官場上的另類。1936年11月1日段祺瑞胃病突然發作，2日在醫院病逝，終年七十二歲。北洋之虎從此消失！