1927年8月12日，蔣介石宣佈下野。何應欽說：“蔣先生是自己要走的。他走了很好。”白崇禧說：“革命是大家的事，蔣先生走了很好，我們大家聯合起來，做革命工作。少了他，我們一樣可以做。”

何應欽、白崇禧等人嘴上說得很好，一副有大義的樣子，但實際上這不過是新軍閥們之間的爭權奪利罷了。

那麼，蔣介石真的是如何應欽所說，自願下野的嗎？

8月8日，南京方面由李宗仁領銜，白崇禧、蔣介石等人附名，向武漢方面發出求和電。不料第二天，在武漢汪精衛的支持下，掌握兵權的唐生智發出討蔣通電，揚言“一切均可磋商，對蔣氏個人，絕對不能相諒”。顯然，武漢的汪精衛集團是在逼迫蔣介石下野，與此同時桂系的李宗仁、白崇禧也認為這是攫取南京實權的一個絕佳機會。

蔣介石急忙把李宗仁、白崇禧、何應欽、李烈鈞等人叫到他的官邸，人到齊後，蔣介石他開門見山地說，“武漢派兵東下，進逼南京。你們有什麼看法？”

白崇禧滿不在乎地說：““這叫‘君子引而不發，躍如也’。他們並非真的要來打南京，只是想為今後合作準備籌碼，好討价還价。所以我們大可不必管他。”

蔣介石聽了之後很不高興，說：“我們一定要先平定武漢，然後再北伐。”

李宗仁明確表示反對，稱武漢問題完全可以和平解决，大家都是國民黨，沒有必要一定兵戎相見。爭論了一個多小時，除了蔣介石，其他人都不支持和武漢開戰。

見說服不了眾人，蔣介石怒不可遏地威脅說：“如果你們一定要和談，我只好辭職了。”

不料，就等著他說這句話的白崇禧馬上接話說：“總司令征馬勞頓，能作短期休息也好。”

李烈鈞也立即隨聲附和白崇禧，這種突如其來的變故讓蔣介石措手不及。蔣介石畢竟話都說出去了，無奈之下，他望著自認為是親信的何應欽，他認為何應欽肯定會出來轉圜。沒有想到，何應欽卻低頭悶坐在那裡一言不發，蔣介石明白了，原來他們是互通聲氣的，此刻都希望他下野。

武漢方面的矛頭主要對準著蔣介石，南京方面連何應欽都倒向桂系白崇禧、李宗仁了，孤掌難鳴的蔣介石只得表態辭職下野。

可見，蔣介石是萬般無奈之下，以下野躲避對他的攻擊，以圖東山再起。蔣介石宣佈下野之後，寧、漢和在滬的老西山會議派之間依然紛爭不已，亂哄哄你未唱罷我登場。

9月下旬，下野的蔣介石决定前往日本，他赴日主要的目的是：拜見正在日本養病的宋老夫人，請求其同意他和宋美齡的婚事。

蔣介石於9月29日抵達日本長崎，10月3日與宋子文乘車來到神戶馬大旅社，拜訪宋老夫人，蔣介石很順利地通過了宋老夫人的考察，隨後，他與宋美齡合影留念，到各處名勝遊玩。在日期間，蔣介石還拜訪了日本軍政界官員和社會名流，直到11月10日才回國。

11月26日，蔣介石在報上刊載啟事，聲明與陳潔如並無婚約，與毛福梅離婚，今後斷絕一切關係。

關於蔣、宋聯姻，有各種各樣的說法。《大公報》創始人之一胡霖分析稱：蔣介石的再婚是一個深思熟慮的政治行動。他希望同宋美齡結婚後能把孫夫人和宋子文拉過去。此外，蔣介石還開始考慮到需要尋求西方的支持。宋美齡成為他的夫人後，他就有了同西方人打交道的“嘴巴和耳朵”。

12月1日，蔣介石和宋美齡先在上海的宋家宅子舉行基督教婚儀，由牧師餘日章主持，這次觀禮者不多，只有宋家在上海的少數近親。隨後，蔣介石、宋美齡又在大華飯店舉行中式婚禮，這次參加的人就很多了，有1300多人。婚禮上，介紹人為譚延闓、王正廷。證婚人蔣介石原本請的是廖仲愷的夫人何香凝，但被何香凝拒絕，於是換成了蔡元培。

據在場的記者報導，婚禮中，40歲的新郎蔣介石首先入場。容光煥發，樂不可支。之後，30歲的新娘宋美齡挽著哥哥宋子文的手，在四比特女伴的陪伴下，在《新娘來了》的樂曲聲中步入大廳。宋美齡身穿銀白色的旗袍，手拿一大柬白色和粉紅色的玫瑰花。蔣介石則穿著一身筆挺的黑禮服，與宋美齡的穿著形成鮮明的色彩對比。婚禮之後，舉行了盛大的慶祝舞會。

次日，各大報刊均在顯著位置刊登了蔣、宋婚禮的報導。這也反映出，雖然蔣介石已經下野，但是在國民黨內的影響力還是極大的，這也是他複出的基礎。

蔣介石將能和宋美齡結婚，視為平生得意之事。他在當天寫下的《結婚感言》中說：“餘今日得與最敬愛之宋美齡女士結婚，實為餘一年以來最快慰之一日。”

在婚後的第三天，蔣介石就在他的上海拉都路新居召開了國民黨二届四中全會預備會議。1928年2月初，國民黨四中全會决定恢復蔣介石總司令之職，半年後，蔣介石又兼任國民政府主席。

再次複出的蔣介石掌握了比下野前更大的權力，出於報復，他很快就奪去了何應欽、李烈鈞的兵權。何應欽畢竟算是蔣介石的親信，後來還是獲得了原諒，李烈鈞則被徹底的邊緣化，只得了一個國府委員的虛銜。至於李宗仁、白崇禧為首的桂系，蔣介石開始暗中佈局，磨刀霍霍，等待時機。