现在这大模型参数的军备竞赛，简直是一路狂飙。张一鸣直接押注十万亿参数，上层领导死咬着“大力出奇迹”不放，底层那帮人只能熬红了眼跟时间死磕。反观Anthropic，人家悄悄捏着底牌——手头那个没发布的内部Model 2，实力其实比已经放出来的Mythos 5还要猛，但就是按兵不动，闷头接着搞研发。说白了，现在这行当的玩法，越来越像冷战时期的核威慑了。你手里得捏着张没亮出来的牌，这主动权才算攥在自己手里。
可参数堆得越像座山，这模型的行为就越让人摸不透。我亲手测了把GLM-5.3，好家伙，同一个模型简直是精神分裂。安全对齐做得太狠，硬生生逼成了偏科生：安全考试回回拿满分，别的本事却拉了胯，割裂感极强。实际上，这背后藏着一个更大的坑：现在这帮语言模型，训练数据全是从海量乱七八糟的网页里扒来的。它在预训练那会儿到底“偷看”过多少底牌？根本没法算。最近arXiv上那篇LittleLearner的论文，就是想用“教学法控制知识暴露”的法子砸开这个黑箱。给模型喂什么、喂多少、什么火候喂，全拿捏得死死的。这下总算能系统地研究它是怎么学东西的了。
以前咱们想搞懂大模型，老套路是另外训个替代网络来模拟，那成本烧得让人肉疼。至知研究院这回直接换了条赛道：拆权重。不用再去费劲巴拉地训替代网络了，数据成本直接干到不到原来的百分之一。这条路子要是真能跑通，那就意味着咱们花个白菜价，也能扒开万亿参数的肚皮，瞅瞅里头的运作逻辑到底是怎么回事。
现在整个大模型圈子里，大家其实就在两个方向上较劲。一面是往死里堆参数拼战力，另一面是往深了拆权重求理解。前者搞的是军备竞赛，后者干的是拆弹工程。可你得明白，参数越庞大，黑箱就越幽深。十万亿参数的巨兽要是连内部机制都搞不清楚，那安全对齐这事儿跟买彩票碰运气有啥区别？GLM-5.3那个偏科生已经给咱敲过警钟了。