万益资讯网

最近在同时推进几个项目,结果发现Token实在是烧得太猛了,有点顶不住。在群里求

最近在同时推进几个项目,结果发现Token实在是烧得太猛了,有点顶不住。

在群里求助了几个做独立开发的朋友,学到了一招。这个办法可以最大程度省Token,同样的任务,效果差不多甚至更好,成本能省掉 70% 到 90%。

如果你最近也在用 AI 做一些比较复杂的任务,可以花三分钟看完这篇,或者收藏一下,后面肯定会用得上。烧了几千块,我才知道Token省钱可以这么简单......

1这个开源项目叫 OpenSquilla,刚发了 0.5.0 预览版。

这个团队做了一件很有意思的事儿,就是把四个国产模型拉到一起,组了个队。

四个弱模型加一起真的能打过一个强模型吗?我去看了一下它在 DRACO(一个公开的深度研究评测集,100 道高难度任务,谁都可以去跑,数据集挂在 HuggingFace 上) 上的成绩。在 DuckDuckGo 搜索引擎那组测试里,OpenSquilla 的四模型集成方案拿了 60.85 分,而Anthropic 最新的旗舰模型 Fable 5 得了 59.80 分。分数虽然咬得很紧,但花的钱差了三倍多,0.39 美元对 1.21 美元。

在 Brave Search 的另一组里差距更大,OpenSquilla 平均分 64.09,比 Opus 4.8 高了 8% 多,比 GPT-5.5 高了 20% 多。成本分别省了大约 92% 和 86%。而且是同组里唯一一个同时拿下最高分和最低成本的方案。

2所以它到底是怎么做到的?我去看了一下它的技术报告《Agentic Routing》,用通俗的话来讲,就是三个臭皮匠顶个诸葛亮。不是做一个最强的选手,而是组一支互补的队伍。

OpenSquilla 在 Harness 层把 DeepSeek v4、GLM-5.2、Kimi K2.7、Qwen3.7 这四个国内模型拉到一起。接到一个任务以后,这四个模型会各自独立完成搜索和推理,互相看不到对方在干什么。然后有第五个模型负责收集这四份结果,做交叉比对和信息整合,最后输出一份综合答案。

团队称这个机制叫多模型 agentic routing,用流程设计来弥补单个模型的短板。

但为什么多个模型各干各的再汇总,效果反而比一个强模型单独做要好?我自己的理解是,每个模型的训练数据不同,擅长的东西也不同。一个模型在某道题上漏掉了一个关键信息源,另一个模型可能恰好搜到了。当你把多个独立来源的结果放到一起做比对的时候,错误会互相暴露,正确的部分会互相印证。

我之前在做数据分析的时候有过类似的体会。有一次我让三个不同的模型分别跑同一批数据的清洗任务,最后人工比对结果,发现每个模型犯的错误位置都不一样。如果只用其中任何一个,我可能就把那些错误带进了后续分析。但三个一对比,问题反而很容易暴露出来。

OpenSquilla 做的事情本质上就是把这个过程自动化了,而且是在 Agent 层面做的,不需要你自己手动去跑多次、手动去对比。

3使用起来也没什么门槛,可以直接去Release 页下载安装包,双击就完事了,而且也支持本地部署,可以不把敏感文档传到云端。

打开之后丢个任务进去,它会把任务分发给四个模型并行跑,最后给你一份汇总结果。

我对比了一下几个我之前用单模型做过的任务,感觉它信息完整度明显好很多,尤其是那种需要综合多个来源的调研类任务。

当然也有几点可以改进的。一个是速度,多个模型并行跑,等待时间比单模型要长一些。另一个是它目前还是 Preview 版本,有些边界情况的处理不算完善,偶尔会遇到某个模型返回的内容格式不太统一,汇总的时候略显粗糙。

4OpenSquill这个团队,从第一个版本开始,就只盯着两件事做:好用和省钱。从 0.1.0 的智能路由,到 0.3.0 的 MetaSkill 自组织技能,再到 0.4.0 的可验证编码,一路做到现在的多模型集成。

这个开源项目指向了一个很多人还没注意到的方向:当基础模型之间的能力差距越来越小的时候,决定最终效果的,可能是模型之上那一层。也就是你怎么组织模型、怎么设计工作流、怎么让多个能力互补的模型协同起来。

国产模型单独拿出来跟最新旗舰比可能还有差距。但组织得当的话,已经能咬住甚至反超了。

这其实跟组织管理是一个道理,一个组织的上限,不取决于最强的那个人,而是协作机制设计。如果你用 AI 比较频繁,不管是写东西还是做分析,都可以下个 0.5.0 预览版跑一下。