多模态推理开源破局,腾讯AI商业化全面提速
AI技术

多模态推理开源破局,腾讯AI商业化全面提速

多模态推理的开源方案又多了一个。M3OPD-Reasoner团队用多教师在线策略蒸馏做视觉语言模型后训练,把多个专业教师模型的能力压进一个学生模型,覆盖图像STEM任务、图像感知和视频推理。团队公开了监督微调与强化学习数据集、训练代码,以及各阶段检查点。21项基准测试里,蒸馏模型的平均表现超过混合数据训练的基线;再叠加一轮强化学习,性能继续提升,训练也没有崩。

底层结构这边,TPHC把张量并行分片和Transformer的并行残差流结合起来。跟mHC不同,TPHC让每条残差流接收不同的分片输出混合结果,表达力上去了,注意力与FFN子层的计算量却没增加。在11亿参数模型上,验证损失降低0.7%至1.0%,六项基准的平均零样本准确率提升0.3到0.7个百分点。代码已经公开。

腾讯2026年三季度财报显示,WorkBuddy日活超1000万,日均Token消耗超100万亿,是国内日均大模型Token消耗最高的AI产品。混元Hy4发布时位列Agent Arena中国模型第一,微信AI助手“小微”灰测扩大,AI需求带动云服务收入同比增35%。当季营收2073.4亿元,同比增8%。

大模型竞争扩展到了后训练方法、并行计算结构、产品化落地三条线。开源方案压低技术门槛,结构优化抠出推理效率,百万亿级Token消耗和云收入是商业层面的验证。