这周开源圈挺密集。OCR新模型把KV Cache压成常数,RAG引擎RAGFlow继续把检索和Agent揉在一起,蚂蚁百灵放出Ling-3.1-flash-1019,冲着Personal Agent去的。三条线看着不搭,解决的是同一个问题:让模型读得懂长上下文,找得到对的信息,把任务干完。
先说OCR。新模型把KV Cache压成常数,页数不再有上限,缓存直接砍掉96%。几百页的PDF丢进去,显存和延迟不会跟着页数线性涨。OCR 3.0的门槛一下低了不少,长文档解析从“分批切”变成“一次过”,成本账完全不一样了。
RAGFlow干的事很明确:开源RAG引擎,RAG和Agent能力都装在里面,给LLM搭一层上下文。企业想自建知识库问答或者文档Agent,不用从零拼检索链路,拿现成引擎改就行。它和上面的OCR模型正好互补,一个把文档读进来,一个把内容找出来。
蚂蚁百灵这边,10月28日正式开源Ling-3.1-flash-1019。Artificial Analysis Intelligence Index v4.3.2拿到44分,比上一版高3分。同步开源的还有基础模型Ling-3.1-flash-base,给长程任务的知识、推理和计算效率打底。方向很清楚,Personal Agent得能干真实任务。
三件事放一起看,开源模型正在补上下文层缺的三块拼图:读得懂、找得到、干得成。以前这些要么靠闭源API,要么自己拼半年。现在拖进项目就能用,成本差一个量级。