OpenAI反蒸馏见效:思维链提取率降至0.2%
AI行业

OpenAI反蒸馏见效:思维链提取率降至0.2%

OpenAI把GPT-6.2 Astra和Sol的思考链看得更紧了。内部用自适应黑盒红队测了一轮:从过往请求里提取推理内容,成功率从54%压到0.2%;针对当前请求的提取率从22.9%降到0.9%。把六个攻击模型的数据合起来看,结果基本一致。

做法不花哨,但够扎实:对抗训练、输入输出分类器,再加API层的硬限制——不同会话、模型、组织之间不许复用推理内容。OpenAI每周还会封掉数千到数万个涉及未授权蒸馏的账号。想靠套壳直接复刻模型能力,这条路正被堵死。

另一头,隐私的窟窿没补上。Dragos首席研究官HD Moore向多家服务商发了近200万条带追踪标记的请求,全是诱饵,不来自真实用户。至少三家出现被入侵迹象,被盗密钥被用来跑了几万次云API调用。部分转售商会记录并转发请求。最扎心的是,那些标着“零数据保留”“禁止收集数据”的请求里,私密网址几天后照样被访问。

两件事放一起看挺讽刺。厂商在防别人偷模型能力,用户数据却在中间环节漏得到处都是。Moore的建议很直接:敏感业务考虑本地部署;实在部署不了,就绕开中间层,直接找可信服务商。