说白了,大模型行业正在经历一场残酷的洗牌。智谱就是个例子。两个月市值缩水8000亿,股价跌了六成多。首席科学家唐杰自己也承认,千亿参数的路线走偏了,给整个行业提了个醒。盲目堆参数的时代已经过去,现在能不能赚钱、能不能落地才是硬道理。
国内厂商也开始重新调整布局。科大讯飞在半年度业绩说明会上明确,1024开发者节将正式推出基于全国产算力的全新主力通用大模型。8月底会先放一个阶段性版本给开发者体验,技术落地的节奏很清晰。字节跳动的大模型部门Seed刚完成组织大调整,新设四个一级部门,都向吴永辉汇报。预训练数据、强化学习和后训练资源全部整合到一起,B端和C端的模型能力分开布局。Pretrain Data由李成刚统一负责,整合文本、编程、视觉、语音团队,支撑新Omni模型。
实际上,技术层面也在拼推理效率。Liquid AI和Hugging Face联合发布了LFM2.5系列DSpark草稿模型,覆盖1.2B、2.6B、8B-A1B三款。用了一种全新的投机解码路径,不改变输出质量的前提下,GPU端推理速度最高能提升3.18倍,端侧设备也有明显加速。学术圈在研究模型路由方案,把查询请求分发给最擅长的模型处理,用异构系统提升整体质量和效率,但代价是价值评估成本比较高。
说白了,拼参数不如拼落地,拼规模不如拼效率。大模型下半场,活下来的,都是算得清账的玩家。