AI安全问题正成为行业博弈的焦点。一边是监管开始给数据松绑,另一边是产品安全机制屡遭质疑。如何在技术狂奔和风险控制之间找平衡,成了各方急需解决的难题。
OpenAI最近推出了青少年版ChatGPT,想通过年龄识别来限制部分功能。但儿童安全专家并不买账,直接给这套机制泼了冷水。专家认为其安全机制透明度太差,实际防护效果也得打个问号。他们强烈呼吁,在向家长和青少年推荐前必须开展大量独立测试,OpenAI也得把具体的运作细节交代清楚。
在数据获取端,韩国选择了放开手脚。韩国国会通过了《个人信息保护法》修正案,允许AI开发商在经个人信息保护委员会审查后,于限定范围内使用个人数据。这直接打破了以前“转作AI开发必须本人同意”的硬性规定。新规给业界扩大了数据可用空间,算是给AI研发切实开了绿灯。
监管在松绑,产品在试水,技术层面其实也在给安全找新解法。arXiv近期的一篇论文指出,过去六十年来机器验证成本极高,只有极少数特殊项目用得起。但生成式AI改变了这个局面,在AI速度下,机器验证成本大幅降低。这种技术反转或许能为AI安全提供更高效的自动化保障。