AI发展速度过快引担忧！Anthropic呼吁全球放缓前沿AI研发。

随着人工智能技术飞速迭代，AI的进化速度已经渐渐超出了人类的把控范围。美国主打AI安全研究的人工智能企业Anthropic公开发声，呼吁全球各大顶尖AI研发团队和实验室，主动放慢高端AI模型的研发脚步，避免技术过快发展带来一系列难以挽回的社会风险。

此次呼吁来自Anthropic官方发布的博客文章，由公司政策负责人与联合创始人共同撰写，同时公开了大量内部实测数据。该公司旗下的Claude高端AI模型性能正在快速提升，如今的AI已经能够独立完成写代码、设计实验、调整模型参数、复盘科研工作等AI研发的核心工作。

这也意味着AI正在靠近一个关键临界点——递归式自我优化。简单来说，就是AI不再需要人类工程师操作，能够自己设计、训练、迭代出更强的新一代AI模型，形成不断变强的智能循环。按照该公司联合创始人的预判，在2028年之前，AI实现完全自主进化的概率高达60%，甚至有可能提前落地。

在Anthropic看来，目前最大的问题是AI技术发展太快，人类的监管和应对准备完全跟不上。如果任由前沿超级AI快速研发迭代，会滋生诸多现实隐患。一方面，飞速发展的AI可能冲击现有就业市场；另一方面，相关技术可能被恶意滥用，更极端的是，自主进化的AI或出现脱离人类管控、自主决策失控的风险。

为此，该公司提出了切实的解决方案。首先，希望全球达成共识，适当放缓甚至临时暂停顶尖AI的研发，给社会、法律体系、AI安全研究留出充足的升级和完善时间。其次，提议签订一份全球性的AI研发管控协议，参考核不扩散的管控逻辑，给高端AI研发划定明确规则和速度限制。同时搭建跨国、跨企业的第三方核查机制，解决AI算力研发、项目训练隐蔽性强、不好监管核查的行业难题。

同时文章也坦诚道出了行业现实困境：AI行业竞争十分激烈，如果只有个别企业主动减速研发，而竞争对手持续加码投入，主动自律的企业就会直接失去技术领先优势。因此，这份管控协议，需要全球所有AI研发主体共同配合、统一履约才能落地生效。

这件事在业内引发了不小的争议。目前Anthropic正在筹备大规模上市，市场预估其估值接近万亿，一边积极融资、扩大算力、推进商业化发展，一边呼吁全行业放缓研发，双重做法引发两种截然不同的声音。

一部分科研人员认可其预警，认为当前全球的AI治理规则、安全体系确实严重滞后于技术发展速度，适当控速很有必要。但也有不少同行企业和投资人提出质疑，认为Anthropic打着AI安全的旗号呼吁暂缓研发，本质是想限制OpenAI、谷歌DeepMind等强劲对手的发展，借助监管壁垒巩固自己的行业优势地位。

Anthropic后续还会持续推进相关工作，将联合全球各地的政策机构、科研团队，研究具体的AI管控细则，同时推动各国监管部门出台分级管控政策，给具备自主进化潜力的超高算力AI模型设立研发红线，严格约束前沿AI的研发边界。