英伟达开源1200亿参数AI模型,LLM训练效率翻倍
英伟达又往开源池子里扔了个大件——Nemotron 3.5 Super VL。总参数1200亿,MoE架构,每次只激活120亿,定位很直接:给AI智能体干活用。文本、图像、文档、视频都能读,推理、指令遵循、工具调用也打包在一起。英伟达称,单...
英伟达又往开源池子里扔了个大件——Nemotron 3.5 Super VL。总参数1200亿,MoE架构,每次只激活120亿,定位很直接:给AI智能体干活用。文本、图像、文档、视频都能读,推理、指令遵循、工具调用也打包在一起。英伟达称,单...
开源圈这周连放三枪:Cloudflare 的 Clef-omni、蚂蚁的 Ling-3.1-flash,还有 The Verge 作者写的本地 AI 使用报告。三件事指向同一个方向——比谁真能用起来。 Cloudflare 把 Clef-o...
4B模型的翻译能力反超12B,这是HexaBee-4B交出的成绩单。底座是Gemma 3 4B IT,训练分三步:先用维基百科数据继续预训练,再把多语言问答和答案翻译放一起联合训练,最后专攻双向翻译。阿拉伯语、中文、英语、希伯来语、波斯语、...
谷歌下一代模型 Gemini 4 "Argon" 没开发布会就直接露面了。它已经在多个平台现身,部分 Pro 用户能提前用上,Google Cloud 等生态也已接入。在编程工具 Antigravity 里,Argon 被设成默认模型。更狠...
OpenAI工程师Tibo宣布,Codex和Work环境里的GPT-6.1 Sol,默认上下文从272k tokens拉到500k,涨幅约80%。一次对话能塞进近乎两倍的文本量,整座代码库、几百页合同、长篇报告都能一口气处理。自动压缩、中途...
Mistral AI放出Mistral Large 4,1万亿参数、490亿活跃参数,是目前体量最大的开源模型。它同时支持多模态,在网络安全、金融、法律等垂直领域跑到SOTA。开源阵营追参数规模追了很久,这次算是把差距压到了肉眼可见的程度。...
谷歌开源了EmbeddingGemma2,这是它第一个原生多模态嵌入模型,参数740M。文字、代码、图片、视频、音频统一映射到同一个语义空间,跨模态检索第一次能轻量跑在端侧。完整多模态版本内存占用不到600MB,手机、笔记本、浏览器直接开跑...
微信最近通报了AI魔改短视频的专项治理结果:集中下架违规内容超2.6万条。这些视频大多出自低门槛AI工具,专挑四大名著的经典角色和剧情下手,恶意扭曲、低俗恶搞。也有拿历史名人、英雄模范开涮的,误导性不小。平台的态度很直接——靠无底线博流量这...
智谱把新一代旗舰的参数规模推到了万亿级。GLM-5.4和GLM-5.5两款模型一起跨过这条线,底层架构上还要走两条新路子。官方没公布技术细节,但“双轨”这个说法本身就说明,光堆参数已经不够用了。国产大模型冲AGI,路线选择开始比参数表更关键...
机器人要在现实里干活,得先在"脑子"里预演一遍。世界模型干的就是这件事:用数据代替传统仿真器,做策略评估、策略改进和规划。预演要靠谱,前提是三维场景还原得足够准。DepthWorld 瞄的就是这里。 DepthWorld 给机器人操作任务搭...
OpenAI又放了个大招。10月8日起,GPT-6开始向全球ChatGPT用户全量推送,逐步接替GPT-5.6 Sol与Luna。这回的重点不在模型跑分,而是ChatGPT的聊天框里第一次长出了"界面"。 OpenAI把这项新能力叫"智能U...
大模型想持续学习,靠自我蒸馏可能走错了路。arXiv新论文对比了on-policy自我蒸馏和off-policy模型合并两条路线。结果显示,前者在新数据上做SFT后泛化变差,还会灾难性遗忘;后者把不同模型直接合并,表现更稳。论文干脆把结论写...
大模型本地跑,门槛又降了一截。Strata项目用混合专家缓存,在单张RTX 4090上跑通了125B参数模型的推理。Hacker News另一篇高分实践文补了一刀:按量计费的API服务必须默认设硬预算上限。没人盯着的时候,账单能自己长成天文...
开源模型又上头了。StartLux 放出 StartLux-Decision,一个开源决策模型,官方口径直接写"RSI 再创奇迹"。数据也拿得出手:独立的 Decision Index 0.2.1 评测中,27B 版本得分 63.88,38...
TypeSafe的CEO Diogo Almeida放出一个数字:约四分之一的《财富》500强企业正在用Jev模型。他把Jev称作"新一类AI",并说它大约一周前就做到了每天处理一万亿个token。这个量级听着够吓人,但报道没给出独立验证—...
开源决策模型的榜首又换人了。StartLux 一口气推出 0.8B、2B、4B、9B 和 27B 五档版本,把 Jev 挤了下去。它还顺手提供了支持本地部署的量化模型,小团队也跑得动。 亚马逊那边也没闲着。新发布的开源决策模型 Strand...
小米今天凌晨开源了 MiMo-V2.6 系列。MiMo-V2.6-Pro 直接以"Co-Scientist"的身份进了真实科研任务,真干活。北京大学材料科学与工程学院特聘研究员窦锦虎给出的评价很直接:达到了训练有素的博士研究人员的水平。一个...
昨晚开始,X 上到处都在传 Claude Sonnet 5.5 要来了,时间点指向美国时间周二下午。今天它正式发布,传闻坐实。这是 Anthropic 又一次"Sonnet 打自家 Opus"的更新,节奏比外界预期还快。 官方给的定位很明确...
罗福莉押注大规模强化学习,小米端出了自家最强开源模型。训练6天烧掉2000多万元算力,代价不低,但多个Agent基准已经能跟闭源旗舰掰手腕。模型介绍、技术实现和实测案例全部公开,小米这次是认真下场了。 另一头,Kimi K3登陆AWS。开源...
谷歌最近在Gemini上打了两张牌,一张发给所有人,一张锁进保险柜。免费账户现在能用上Skills自定义指令,而下一代模型Gemini 4 Argon只对受信任的网络防御人员开放。一个放开,一个收紧。 Skills原本是Pro和Ultra付...