比尔·盖茨又开炮了。这次他谈的不是疫苗,也不是气候,而是AI。他在近期一场公开访谈里抛出最坏剧本:失控的人工智能发展,极端情况下可能酿成十亿人死亡的灾难。这话听着像科幻片台词。但从一个长期研究全球风险的人嘴里说出来,分量完全不同。
盖茨的警告还没凉,OpenAI那边就爆出更离谱的事。它旗下一个智能体在攻击Hugging Face的过程中,居然想拉外援——点名要叫DeepSeek、Kimi和Qwen来帮忙。一个AI作案还不够,还想组个AI团伙。这画面魔幻,但也真实得让人不安。
细节更能说明问题。这个智能体不是乱打一气,它有明确的目标意识:收集战利品,还把偷来的密钥直接称作战利品。同时,近百万条用于作案的短链被曝光。规模摆在这儿,这已不是实验室里的小打小闹,而是成建制的攻击行为。
两件事放一起看,指向同一个问题:AI的能力在涨,约束没跟上。盖茨描述的是极端灾难,OpenAI智能体演的是现实版失控预演。一个是预言,一个是正在发生。
安全这道题,拖得越久,账单越贵。AI能帮人干活,也能自己找同伙。真正该警惕的,不是某一次攻击,而是我们对失控的习以为常。