最近大模型圈子可以说是一天一个样。字节的Seed部门刚搞了一波大动作,直接拆出四个一级部门。干嘛呢?把文本、编程、视觉、语音这些预训练数据团队全捏在一起,去喂那个新的Omni模型。B端和C端也干脆分家了,强化学习跟Agent的研发资源直接推倒重来。架构一调,技术路线肯定跟着变。字节这波排兵布阵,实际上就是在给接下来的恶战备足粮草。
另一边,科大讯飞死磕国产算力。他们放话要在今年的1024开发者节掏出全新的主力通用大模型,不过8月底会先放个过渡版让大家尝尝鲜。有意思的是,OpenRouter上悄咪咪上线了个叫"Ox Alpha"的神秘模型。不仅全免费,性能据说还能碾压Fable 5。全网都在扒皮,猜是智谱还是小米干的。搞免费策略又藏着掖着,说白了,这更像是在投石问路,探探市场的底。
底层技术也没闲着。Liquid AI拉着Hugging Face整了个活,发布了LFM2.5系列的DSpark草稿模型。这次有三款:1.2B、2.6B还有8B-A1B。他们弄了条新的投机解码路径,质量一点没掉,推理吞吐量倒是狂飙。GPU端实测最快能提速3.18倍,连端侧设备都跟着沾光。arXiv上那篇关于Pandora路由的论文也挺有意思,思路很清奇:谁擅长就让谁干。把查询丢给最合适的模型去处理,靠路由机制把质量和效率两头都占了。
不管是上面说的架构重整,还是算力国产化,再或者推理加速跟智能路由,其实大模型的打法早就变了。大家不拼参数了,改拼效率、拼落地、拼生态。谁能把成本跟性能的账算得最明白,谁就能在这场大洗牌里活到最后。