中国信通院最新的报告里有个数字：6月国内词元日均消耗量约500万亿，是2025年12月的近4倍。半年翻两番，大模型从“偶尔试试”变成了“天天在用”。需求涨成这样，供给端明显跟得吃力。
报告里几个信号都不太乐观。国内词元服务吞吐量同比翻倍，仍低于国外水平；首词时延不降反升；价格明显回升。开源模型这一年进步很大，但同一个模型换个平台跑，表现能差出一截，平台工程能力成了一道看不见的门槛。
成本压力很快传到了研究端。arXiv 上有篇论文盯上了测试时扩展的老毛病：让模型一次生成一堆候选解，赌其中至少有一个是对的，代价是算力哗哗烧。作者的办法是直接优化 Pass@k 来做思维剪枝，砍掉冗余推理链，同时保住答案的多样性。质量不掉，采样数量降下来，账单自然就薄了。
另一篇从存储侧下手。现在不少开源权重模型用 n-gram 嵌入表记短 token 序列，比如相邻的两三个词，效果上去了，参数表也胖了。低比特量化把这些嵌入表压小，显存和带宽一起省。
这几件事合起来看，调用量暴涨之后，比拼的重点变了——以前看能不能答对，现在看答对要花多少钱。词元价格回升只是短期信号，长期胜负还是看推理效率，剪枝、量化、平台调优，哪一环掉队都不行。