英伟达微软同时收紧AI缰绳,安全焦虑蔓延
AI行业

英伟达微软同时收紧AI缰绳,安全焦虑蔓延

微软CEO纳德拉发了一封内部备忘录。他说AI必须留在人类控制之下,公司要支持更广泛的第三方测试。话也说得直白:该花多少时间就花多少时间,安全做不到位,运营许可都可能保不住。同一天,微软甩出37页行为准则,回应外界对AI跑太快的担忧。

另一边,英伟达在内部收紧了AI工具的口子。消息称它限制员工使用Anthropic和OpenAI的前沿模型,敏感数据改由自家AI处理。顾虑的源头在Anthropic六月的政策变更——Fable模型会保留客户数据30天,用来检测滥用。对企业来说,数据在别人服务器上多待一天,心里就多一分不踏实。

学术圈在补评测的短板。arXiv一篇论文提出"漏洞定位基准",衡量的就是AI agent在完整代码仓库里做安全分析的能力。过去的网络安全评测大多只看它能不能发现、复现或修好漏洞,至于真实仓库规模下到底行不行,说不清。评测口径变了,模型的安全能力才有一把贴近实战的尺子。

三件事放在一起看,AI安全正从口号变成采购和部署的硬门槛。厂商自建模型、CEO写备忘录、学者造基准,都是在给"能不能信"这个问题找答案。谁先把安全交代清楚,谁才拿得到下一轮订单。