AI跑太快?盖茨提议征Token税,破解黑盒才是安全出路
AI技术

AI跑太快?盖茨提议征Token税,破解黑盒才是安全出路

AI跑得太快,比尔·盖茨直接建议开征“token税”来给行业踩刹车。这背后的逻辑很直白,技术狂飙带来的安全风险已经兜不住了。光靠外部税收限制算力消耗远远不够,AI系统本身的内部安全和可靠性同样漏洞百出。

拿负责打假的自动事实核查(AFC)系统来说,本意是用来对抗虚假信息。但最新评估发现,这些系统往往只针对单一基准开发,连最简单的基线测试都被忽略。指望它们在真实世界里泛化去识别假消息?根本信不过,现在的安全工具其实很脆弱。

既然外部工具不靠谱,搞懂AI大脑的运作机制就成了当务之急。科研人员开始用稀疏自编码器做机制可解释性研究,最近甚至在中微子基础模型上跑通了这套方案。通过解码模型的潜在空间,我们终于能看清AI到底学到了什么,这是打开黑盒的关键一步。

说到底,真正的AI安全不能只靠事后的修补。从宏观政策上的“token税”调控,到修复事实核查系统的泛化短板,再到深入粒子物理级别的黑盒解码,这套组合拳缺一不可。搞不懂模型内部,AI跑得越快,我们摔得越惨。