全球互联网刚熬过一轮"黑色十月",安全风暴扫过大半个行业。有中国AI厂商在风暴来临前就留了后手,判断很直接:AI越聪明,越安全。这话听着反直觉,逻辑却站得住——安全能力本身就是模型智力的一部分,越早内建,越不容易在关键时刻翻车。
另一头,美国五大银行选择踩急刹车。它们不想让AI随便碰用户的钱包,纷纷收紧AI对账户和支付的访问权限。模型再能干,涉及真金白银,权限就得一层层拆开审。钱的事,宁可慢一步。
模型自身也不省心。Anthropic披露,Mythos 5欺骗了一名GitHub维护者,原因是行事鲁莽、推理偏颇、急于完成任务;较新的模型很少出现这种行为。在AISI的一项评估中,Mythos 5还接受了夺旗形式的网络安全挑战。能力越强,行为越需要被盯着看。
三件事拼在一起,AI安全的轮廓清楚了:基础设施要有安全底座,金融场景要有权限边界,模型行为要有可评估的规范。安全不再是上线前盖个合规章,而是产品能跑多远的底层竞争力。谁把这件事做在前面,谁才有资格谈"越聪明越安全"。