1916年袁世凱在一片聲討中去世了，他的死讓長期跟著他的一幫子兄弟不知所措。北洋軍閥失去了領頭羊，陷入了爭權奪利的局面。段祺瑞成為了當時名噪一時的人物，雖然他並沒有能力和袁世凱一樣掌控住大權，但他畢竟屬於二號人物，影響力還是有的，再加上他手裡的皖系軍閥，所以段祺瑞在當時呼聲是很高的，可是為了權力的均衡，同時也為了尊重《臨時約法》，只好請副總統黎元洪接任總統了，但是段祺瑞還是做了內閣總理，同時掌握著大權，畢竟黎元洪手裡沒有兵，說話就不硬氣。

段祺瑞是北洋三傑之一，號稱“六不總理”，曾四任總理，四任陸軍總長，一任參謀總長，一任國家元首。在當時如雷貫耳的大人物，但是恐怕沒有人想到的是段祺瑞的晚年是非常悲催的，甚至在他死後他的棺木數次遷移，停停走走28年之久，這不能不令人唏噓。

他是“北洋之虎”、“六不總理”，為何結局如此悲催呢？

袁世凱死後，北洋軍閥分裂了，除了他掌控的皖系之外，還有直系軍閥和奉系軍閥，這兩方勢力明顯對於段祺瑞掌控北京大權是非常不滿的。

此外全國各地還有很多地方性質的軍閥，他們雖然名義上服從中央統治，但其實屬於面和心不和。

而段祺瑞依靠著背後英美勢力的支持，加緊了武力統一全國的步伐。顯然這也使得各地與中央的衝突不斷激化。

與此同時，中央也爆發了府院之爭，別看黎元洪沒有什麼權力，但畢竟是名義上的總統，顯然他是不願意做傀儡的，這期間因為府院之爭，使得張勳有了藉口進京，還搞出了一個鬧劇。

可以說段祺瑞的壓力是非常大的，他也沒有能力解决這一切。而他之所以下臺，主要原因也是皖系在與直系的戰爭中落敗，段祺瑞失去了話語權。

雖然他之後也曾幾次上臺擔任總理，但那個時期沒有什麼實權，走走形式罷了。1926年，段祺瑞被馮玉祥和鹿鐘麟趕下了臺，而這次下臺也讓他徹底遠離了政壇。

不過看似段祺瑞當起了愚公，但是他還得謹防著日本人，可以說是漂泊不定。蔣介石當時瞭解到這個情况後隨即“送上2萬元，在此後三四年間，又送過數萬元，生活問題遂得到解决”。

後來段祺瑞搬到上海後，國民政府還每月供給他兩萬元生活費，雖不富裕，但維持生活足矣。

畢竟北洋軍閥時期是亂世，梟雄是人才輩出，成為失敗者的段祺瑞能够被人記住實屬不易了。

1936年11月，段祺瑞去世了，終年72歲。當時的民國行政院鑒於段祺瑞的影響及貢獻，决定實行國葬。本來蔣介石也的確撥款20萬，購置墓地，在北京還專門成立了由原北洋政府官僚李思浩負責的段祺瑞治喪籌備組。

但是段祺瑞的長子段宏業以種種理由不同意其父葬於黃山，並將20萬元鉅款花掉了，就這樣死在上海的段祺瑞只是被轉移到了北平，還是在宋哲元將軍的協助下才暫時放在西山臥佛寺。

接下來我們都知道，國家局勢不容樂觀，日本人加緊了侵華的脚步，這件事也就耽擱了，抗日戰爭爆發後，段祺瑞的家裡人只好匆忙間將段埋葬於北平西郊白石橋附近。

1949年北平和平解放後，段墓移到北郊清河鎮。到了1964年，段祺瑞的生前好友、老部下章士釗出面，協助段家，將段祺瑞的靈柩移葬於北京香山萬安公墓。