AI 编程工具又出事了。一名黑客劫持了 Claude Code 的一个扩展程序,把带毒的版本放上 Cursor 市场。开发者装上之后,这个扩展会试着给攻击者留一个长期后门,持续访问这台电脑。AI 编程工具和智能体的安全风险又摆到了台面上。
麻烦出在信任链上。写代码的人习惯装插件、给权限、跑脚本,AI 智能体还会自动执行命令、读写文件。一个扩展被污染,等于把整台开发机交出去。安全团队再强,也拦不住开发者在 IDE 里点一下“安装”。
数据这边也有新消息。OpenAI 表示会遵循一项通用的 robots.txt 信号,网站运营者用它说明自己的内容愿不愿意被拿去训练 AI,不用再一家家跟服务商谈。训练数据的许可从合同回到了技术协议,做法简单,全靠自愿。
法律层面同样在收紧。一场破产法院听证会上,法官要求 Character Technologies 聘请一名隐私监察专员,评估它的 AI 平台会不会伤害儿童。这项要求属于该公司把部分技术授权给华特迪士尼公司的交易安排。生意可以谈,儿童保护得有人盯着。
三件事指向同一个方向:AI 安全的战场已经从模型本身,扩到插件生态、训练数据和商业授权。模型对齐做得再漂亮,一个恶意扩展、一行 robots 声明、一份少了监察的授权合同,照样能把风险放出去。