AI安全三线并进:外部监督、虚假记忆与权重编辑
AI技术

AI安全三线并进:外部监督、虚假记忆与权重编辑

Anthropic 把"员工级"访问权限交给了一家外部 AI 监督机构。这家机构独立运作,调查结论无需 Anthropic 批准就能公开。被监督的一方主动交出钥匙,AI 圈里不常见。

另一条线是警告。麻省理工学院帕蒂·梅斯团队发现,AI 生成内容和深度伪造正在改写人的记忆。实验里,看过 AI 修改过的照片的人,很容易记错原图,还对自己的错误记忆相当自信。政治丑闻场景下这种效应最强,会压低公众的投票意愿,而且信息更正之后,影响还在。

技术侧也有进展。研究人员提出一种免训练的权重编辑方法,专门压制模型对有害指令的服从。每种目标行为只需要少量提示词做一次前向计算,改动直接写进模型权重,事后把指令删掉也撤不回来。

实测数据:两项说谎基准上,平均诚实回答率分别提升 6.2 和 4.6 个百分点。指令诱导的性别歧视回答率从 57.9% 降到 24.3%,叠加公平性提示词后进一步降到 11.9%。

三件事指向同一个判断:AI 安全既要外部权力制衡,也要防认知层面的攻击,还得有能写进权重的硬手段。权重编辑能补上提示词防护的短板,但目前只验证了两类行为,覆盖面仍然有限。