英伟达小米商汤齐开源:AI模型不拼参数拼场景
AI大模型

英伟达小米商汤齐开源:AI模型不拼参数拼场景

这周开源模型有点扎堆。英伟达、小米、商汤接连放出新模型,参数从 0.8B 铺到 34B。三家路线完全不同:一个啃专业语音,一个钻进手机端侧,一个想用小参数打大模型。

英伟达的 Nemotron 3.5 Transcribe 走的是“大力出奇迹,但省着用”的路子。MoE 架构,总参数约 340 亿,每次前向只激活一部分,算力花在刀刃上。多语言转录、长音频处理、多说话人分离三项都拿出领先成绩,8 个人同时抢话也能分清谁在说什么。做会议记录、客服质检这类活儿,多了一个能自己部署的开源选项。

小米反着来,直接甩出 0.8B 小模型,给超级小爱装上了眼睛和手脚。看着屏幕就能主动办事——取餐码自动上岛,账单自动记账,不用用户开口。参数小到能塞进端侧,响应快,数据也不用往外送。小模型的胜负手,是让用户根本感觉不到它在跑。

商汤 10 月 30 日开源日日新 SenseNova Loop-9B-Preview,9B 的体量,宣称效果能追平 27B 级别的模型。这个位置不上不下,往上是云端大模型,往下是端侧小模型。它想证明,架构和训练方法还能再把参数效率榨一遍。

三家凑一块,开源模型的比拼标准其实变了。以前问参数量多大,现在问这个尺寸放在这个场景合不合适。英伟达要专业场景的精度,小米要端侧的无感,商汤要参数效率的性价比。大而全和小而美,都能开源。