大模型这周干了三件事:提速、找规律、预测未来
AI大模型

大模型这周干了三件事:提速、找规律、预测未来

部署大模型绕不开 vLLM,可参数配错照样出问题。--served-model-name 决定接口对外显示的模型名,客户端调用必须和它对上,写错就是一堆报错。--host 默认监听所有网卡,服务要对外开放,那就务必加上 --api-key,不然谁都能白嫖你的卡。一张卡装得下模型、只是请求太多,用 --data-parallel-size 起几份完整模型分摊流量,比硬堆并发实在得多。

推理侧还在抠工程细节,研究侧已经在问更狂的问题。arXiv 上一篇新论文的标题就很直接:LLM 能靠自由探索发现隐藏的物理定律吗?它的设定是给模型一个物理规律被改过的世界,看它会不会注意到异常行为、自己提出研究问题。科学发现常常始于一次意外观察,这篇论文赌的就是模型有没有这种直觉。原文没给最终结论,但问题本身就够有嚼头。

时间序列预测出了新选手。Timestral 是一组概率预测基础模型,四个规模,参数量从 500 万到 2.09 亿。Timestral-209M 和 123M 在 GIFT-Eval、TIME、fev-bench 三个基准的所有指标里排前两名。做法上,它把预测 token 和因果编码的上下文分开,支持已知的未来协变量;训练先用大规模合成数据预训练,再混入真实数据。四款权重已上 Hugging Face,推理代码在 GitHub 开源。

三件事看着不挨着,指向的是同一个变化:模型架构不再是唯一战场,部署参数、探索能力、数据配方才是拉开差距的地方。这些进展大多开源可复现,代价是要学的东西又多了。