黄仁勋给AI安全定了个调:AI不是新物种,就是软件。软件有什么规矩,它就得守什么规矩。产品不安全,就别发布。这话不新鲜,但管用。与其在"末日论"里吵到天亮,不如把今天就能动手的事做完——身份、权限、沙箱、监控、发布门、回滚,一个都不能少。
麻烦在于,AI正在参与制造下一代AI。研发成果反过来加速研发,递归自我改进成了巨头争抢的新方向。快,确实很有诱惑力。但更快未必更好。谁定义"进步",谁又来守住安全边界?这个问题没人能替你回答。
现实已经给出提示。谷歌宣布,自2026年10月1日起,开源软件漏洞奖励计划(OSS VRP)不再接收产品漏洞提报。原因不复杂:大量由AI生成的"幻觉"报告淹没了维护团队。原本用来发现真问题的机制,被假问题挤爆了。这就是失控风险的日常版本,不宏大,但足够致命。
两件事放在一起看,逻辑很清晰。企业怕落后,可以理解,但怕落后不能替代"这场加速是否值得"的独立判断。安全不是给创新踩刹车,它是发布流程里的一道门。门装好了,才谈得上跑得快。