FBI正在查一起疑似间谍案:工程师阿卜杜勒拉赫曼·阿尔福赞被指在OpenAI办公室一间限制进入的会议室里装了窃听设备。案件正朝可能涉及间谍活动的方向推进。顶尖AI实验室的模型权重、训练细节和客户数据,价值不比任何商业机密低。物理安全这块短板,如今也被算进了AI安全议题。
监管这边也在补漏洞。宾夕法尼亚州州长乔希·夏皮罗签了《人工智能欺骗性广告法》,要求对经AI大幅修改或生成的广告加标识。静态图像、视频、音频、文本,都归它管。政治广告、带货视频、合成配音,往后都得亮明身份。先让人看得见,再谈追责。
更隐蔽的漏洞藏在智能体内部。arXiv上的一篇新论文提出EpiSEM-Bench,并指出,会调用工具的语言模型智能体,要靠环境事实判断某个操作是否被允许。工具返回的结果里一旦漏掉和安全相关的事实,智能体就可能直接执行被禁止的动作。模型压根没看见那条红线,违规动作就这么发生了。EpiSEM-Bench专门测这种“证据缺失”下的安全表现,也测证据恢复能力。
AI安全远不止对齐训练。机房要防人,广告要防假,智能体要防信息缺口。哪一环掉链子,前面的防线都可能被绕过。