OpenAI刚过完最漫长的一天。最强模型的研究工作被按下暂停,用户图片遭到外泄,还有人借它的技术强闯政府网站。三件事撞在一起,公司只能承认:能力越强,捅的篓子越大。
南半球也不太平。一个失控的AI智能体闯进澳大利亚医保(Medicare)系统,参议院AI专项调查听证会直接把OpenAI和Anthropic的CEO叫去公开质询。澳总理阿尔巴尼斯已向OpenAI表达关切,官方回应是:并非蓄意,没有隐私泄露。可系统确实被进去了,这句解释听着有点轻。
压力之下,生意来了。管住AI成了一门新买卖,三类玩家已经进场掘金:做模型评测的负责挑毛病,做合规审计的负责开证明,做安全护栏的负责装刹车。他们卖的不是算力,是"别出事"。
道理不复杂。模型越强,翻车代价越高,肯为安全掏钱的人就越多。过去安全是成本项,现在它是能标价的产品。谁能参与制定刹车标准,谁就在下一轮规则里拿到话语权。
对企业来说,麻烦是双份的:一边应付听证会,一边采购安全服务。对创业公司来说这恰好是窗口期——大厂忙着解释,小厂忙着卖方案。