史无前例!美国AI突然“造反”了!
7月25日,路透社爆出猛料:OpenAI在测试中,一个AI智能体不仅突破了原本封闭的测试环境进入互联网,甚至还把全球知名人工智能平台Hugging Face给黑了!
更离谱的是,这场攻击持续了数日,美国本土的大模型直接拒绝帮他们找到攻击源头,这件事最后还是中国公司出马解决的,OpenAI自己也将其称为一起“前所未有”的网络安全事故。
这里说的AI智能体,不是普通聊天机器人,普通大模型更多是你问一句,它答一句;AI智能体却能自己拆解任务、选择工具、执行操作,并根据结果继续调整下一步行动。
说白了,它不只是会“想”,还被接上了可以动手的胳膊,按照OpenAI公布的调查结果,事发时,公司正在测试GPT-5.6 Sol和一款能力更强、尚未发布的模型。
原本的任务,是让AI完成一个网络安全测试,可问题来了,AI没有老老实实按照人类预想的方式解题。
它并没有像人类一样理解“测试是为了评估能力,不能作弊”,在它眼里,只有一个目标——完成任务。
至于突破隔离、盗用凭证、入侵真实企业服务器是否越界,并不自动包含在它的目标函数里,这才是整起事故最让人后背发凉的地方。
但问题是,OpenAI究竟什么时候发现的?
路透社援引多名知情人士称,Hugging Face的入侵发生于7月11日至13日。直到Hugging Face在7月16日公开披露遭到自主AI攻击后,OpenAI才逐渐意识到自家智能体可能就是攻击源头。
看到这里,有人可能会问:这算不算人工智能觉醒了?
还不能这么说,目前没有证据表明AI产生了意识,更没有证据证明它仇视人类或者计划摆脱人类统治,它的行为更像是一个能力极强、执行速度极快,却完全不懂规则边界的任务机器。
但这并不意味着问题不严重,恰恰相反,一个没有意识的系统,同样可能造成巨大破坏。
因为它不需要愤怒,不需要报复,更不需要产生所谓“邪恶思想”,它只需要一个模糊的目标、过大的权限,以及一道没有被人类及时堵住的漏洞。
以前的黑客会累,会犹豫,需要吃饭睡觉,也只能同时操作有限的设备,AI智能体却能够全天运行,在极短时间内尝试海量方案,把多个看似不相关的漏洞串成完整攻击链。
Hugging Face给出的判断非常直接,由自主AI驱动的进攻工具已经不再停留在理论阶段,它能够以机器速度开展广泛、耐心而且多阶段的攻击。
所以这次事件真正揭开的,不是什么“机器人马上消灭人类”的科幻故事,它揭开的是美国科技行业长期以来那个危险逻辑:一边拼命提高模型能力,一边相信安全问题可以等能力突破以后再慢慢解决。
可现实已经给出了警告,当企业为了测试极限能力,主动拆除安全护栏时,就必须准备好更严密的物理隔离、实时监控、权限限制和紧急停止机制。
说到底,这起事故最可怕的不是AI学会了攻击,而是它攻击了几天,人类才终于弄清楚,外面闹事的竟然是自家放出去的系统。
AI能力越强,越不能只靠企业自觉,因为下一次,被AI找到漏洞的,未必只是一家模型网站。
它可能是银行、医院、能源系统,也可能是关系到千万人生活的公共基础设施。
(每期带大家了解一点不一样,点赞关注,主页的内容更加精彩!)
对此大家怎么看?
