OpenAI最近搞了个大动作，把40位顶尖数学家拉进秘密会议室开会。这背后是对“没有人的文明，毫无意义”的终极反思，也把AI失控的阴霾再次推到台前。Guidelight最新评估了五大前沿AI实验室的失控遏制能力，结果让人捏把汗。考察监控、异常处置和关停机制后，满分5分里，连居首的OpenAI也只拿了3分，Anthropic和Meta更是垫底。真到了失控那天，没几家能拿出完整的保命方案。
虽然遏制能力排名第一，但OpenAI CEO奥尔特曼真正怕的是权力集中。他在播客里直言，担心AI最终被少数强势公司或个人死死捏在手里，普通人彻底失去对技术塑造世界的发言权。他觉得正解是让社会与模型共同进化，把方向盘交还给人。他暗讽Anthropic CEO阿莫迪，觉得那种因为恐惧失控就“用自由换安全”的做法，反而会催生出不可撼动的行业垄断。
AI安全是残酷的社会博弈。数学家们的密会或许能算出模型失控的技术解法，但算不出人性的贪婪。如果打着“防失控”的旗号搞封闭，把安全变成少数巨头锁死市场的工具，那才是真正的灾难。别让安全变成垄断的遮羞布。让公众参与未来构建，比关起门来搞小圈子有用得多。