1369年，71岁的朱升，向朱元璋辞行：“陛下，老臣要回家祭祖。”朱元璋欣然同意，并赏了他一块免死金牌，然而，朱升一出城门，立即调转方向，逃离了京城。 朱升离京那日，车队刚驶过城门，他便让随从放慢车速，观察官道两侧是否有人跟踪。他在车上反复思量，最终让车队临时转方向，避开驿路，沿小道往东南去。 随从不解，他只说：“这一生的官事，到此为止。”从此，他再也没有踏足京师半步。 故事若往前追，就能看清他为何做出这一改变命运的决定。前一年，洪武元年，朱元璋询问谁该负责江南军政事务，廷议争执不休。朱升劝他减少猜忌，强调大局未定，应先稳住开国班底。朱元璋听了，却没有真正放松戒心，反倒在随后一年不断削弱藩将权势。朱升看在眼里，心中越发警觉。 洪武二年初，他提出“祭祖”请求时，朱元璋立即批准，并赐下免死金牌。旁人以为这是重用象征，可朱升却从金牌上看到了另一层含义：皇帝已把所有功臣置于审视之下，而金牌能保命到什么程度，全凭皇帝心意。 朱升在朝中多年，每次进宫都能感到锦衣卫频繁走动，文武官员的声音越来越谨慎。他判断风向越来越紧，不再是谋策天下之初的自由讨论。如果继续留在朝中，哪怕言辞稍有不合，可能就会被指违诏。他暗中准备数月，安排族人提前离京，借“乡中事务繁杂”为由分批离开，以免日后牵连。 他的离开，很快影响了朝中局势。朱升被称“谋略老成”，许多军政事宜都曾请他意见。他一走，朱元璋试图再召，却收到他以“年迈病动”为由的回信。锦衣卫呈报他确已在家乡务农，皇帝心中宽了一些，但对其他臣子的防备反而加强。 不久后，处理功臣的节奏加速。洪武三年至七年间，多位元勋被削职、治罪。朱升的突然隐退，像是一面镜子，让其他老臣意识到风向难测，却无人有机会学他抽身。 朱升在家乡安顿后，立下家规，禁止后辈入仕。他告诉族人：“富贵难守，功名难保，能平平安安守住祖业，胜于在京城争进退。”他的族人照做，几代未出一名官员，使整个家族在往后的几十年风暴中保持完整。 洪武十五年，李善长案爆发。作为开国第一功臣之一，他被指涉嫌旧案，全族数百人受牵连。朱升得知消息后，只和家人说：“幸好我们走得早。”第二十六年，蓝玉案再起，牵连数千人。朝中气氛持续紧绷，不少曾经出谋划策的文臣纷纷自保，有的称病，有的求退，仍有人难逃处罚。 朱升在家乡过着简朴生活，耕作、读书、修谱、祭祖。他向来对政事不再提一句，连访友时也避免涉及朝廷，只说乡里杂事。 1393年，他在盐城故里去世，享年八十三岁。
