万益资讯网

用 IKP 探针估算 GPT-4.5 的规模:一次非正式实验http://清凤.

用 IKP 探针估算 GPT-4.5 的规模:一次非正式实验http://清凤.fun/journal/2026-05-07-gpt-45-size-estimation/"我们用 IKP(Incompressible Knowledge Probes)方法的一个缩减版本,手动对 GPT-4.5 进行了 320 道闭卷事实回忆测试,试图回答一个问题:GPT-4.5 的事实记忆容量大概处于什么量级?

最终结论:GPT-4.5 的 IKP 等效事实容量约为 1.3T–1.8T。结合其定价(输入 $75/M tokens,输出 $150/M tokens,约为 GPT-4o 的 15–30 倍)和生成速度,我们推测其架构更可能是一个 大 active 的 MoE 模型(总参数 1T–3T,活跃参数 200B–600B),而非超稀疏 MoE 或纯 dense 架构。

重要声明:这不是正式的 IKP 基准评估。样本为事后构建(posthoc),分布偏向长尾,无法等同于论文级结论。所有数字应理解为”等效事实容量”,而非真实物理参数量。"