万益资讯网

为了把生活水平提高55倍,人类将会承受1/3的灭绝风险?美国为了和中国竞争,正在

为了把生活水平提高55倍,人类将会承受1/3的灭绝风险?美国为了和中国竞争,正在把全人类放上赌桌。

今天看到英国《金融时报》的一篇独家报道,看完直接给我整精神了。

人工智能巨头 Anthropic 刚挖走了斯坦福大学的顶级宏观经济学家查德·琼斯。

按理说,AI 公司招个经济学家不稀奇,但这位老哥的研究方向实在太硬核了——他试图把“超级智能(AGI)带来的消费红利”和“人类灭绝风险”放进同一个数学模型里精算。

算出来的结论让人大跌眼镜:

琼斯教授认为,如果超级智能能让全人类的生活水平和消费能力暴增 55 倍,那么从数学逻辑上来看,为了追求这个最优结果,人类可以承受上限为 1/3(约 33.3%)的灭绝风险。

好家伙,三分之一的概率,这可比俄罗斯轮盘赌刺激多了。

这篇报道揭示了 5 个非常荒诞又细思极恐的事实:

第一,硅谷现在正流行给“世界末日”定价。

像 Anthropic 这种原本主张“安全至上”的公司,现在竟然想用宏观经济学框架,把人类毁灭的风险变成一个可精算、可闭门探讨的盈亏平衡点。

第二,这个数学模型存在巨大的伦理硬伤。

琼斯使用的是传统的“对数效用函数”,在这个公式里,人类彻底灭绝的效用被设为了常数零,而活在极度贫困中的效用却是负无穷。

换句话说,在冷冰冰的方程式眼里,“人类全死光”居然比“人类活得穷”更让人容易接受。这显然把生命的价值完全简化成了消费数字。

第三,这导致了硅谷两大派系的奇特合流。

本来“有效利他主义”派天天高呼要防范 AI 灭绝人类,而“科技加速主义”派则主张不顾一切往前冲。

结果琼斯这个“1/3 灭绝风险可接受论”一出,反倒给加速主义提供了理论弹药:只要饼画得足够大,冒着毁灭全人类的风险去搞 AGI 也是“理性且最优”的。

第四,科技巨头正在对学术界进行“绑架”。

原本应该保持中立、在高校里做研究的顶尖学者,纷纷被 AI 巨头用高薪和核心数据挖走。

这导致原本属于公共领域的 AI 风险评估,变成了巨头内部的“黑盒计算”,公众和学术界正在失去对 AI 产业的独立监督权。

第五,也是最关键的一点,这种“冒死狂飙”的逻辑,恰恰折射出当前中美 AI 竞争的微妙背景。

美国科技精英之所以开始计算“灭绝概率的性价比”,很大程度上是因为他们陷入了“不能输、不敢慢”的绝对焦虑中。

在他们看来,如果美国因为过度防范风险而放慢脚步,就可能在与中国等全球对手的技术竞赛中痛失制高点。

这种竞争压力,正在逼着硅谷把整个人类文明当作筹码压上赌桌。

但是,这种极端的“美式功利主义”显然跟我们强调的“以人为本、智能向善”背道而驰。技术发展的终极目的是造福人类,如果人都没了,或者有三分之一的概率变成灰,那消费水平提高 55 倍还有什么意义?

硅谷的这颗科技卫星,到底是人类的福音,还是疯狂的赌局?

如果是你,你愿意为了生活质量翻 55 倍,去赌这 1/3 的生存概率吗?