OpenAI工程师Tibo宣布，Codex和Work环境里的GPT-6.1 Sol，默认上下文从272k tokens拉到500k，涨幅约80%。一次对话能塞进近乎两倍的文本量，整座代码库、几百页合同、长篇报告都能一口气处理。自动压缩、中途截断、强制摘要这些糟心事会明显减少。长文本场景下的多轮复杂任务，连续性终于稳了。
模型能力从哪来？arXiv上一篇关于Branching On-Policy Distillation的论文点出了现有做法的短板。on-policy蒸馏让教师在学生自己生成的轨迹上给监督，但一条轨迹在每个决策点只实现一种走法，监督能覆盖的范围被死死卡住。分支化的思路是把单条路径拆成多条并行延续，让同一决策点上的不同选择都拿到反馈。覆盖面提上来，蒸馏的效率和稳定性才有得聊。
另一边，Task Context Shapes Component Roles in Language Models戳中了一个尴尬现实：大模型会跨任务复用同一批注意力头，可"哪些头被共用"根本解释不了它们在每个任务里干了什么。任务上下文一换，同一组件的角色就跟着变。可解释性研究光找共享模块不够，还得看上下文怎么重新分配功能。
把这三件事放一起看，大模型的边界正在重划：500k上下文撑大输入容量，分支蒸馏提高监督密度，可解释性研究开始追问组件在具体任务里到底扮演什么角色。上下文变长只是第一步，让模型在超长输入里保持"任务感"，才是接下来要打的硬仗。