Context Language Models:让模型自己管理上下文,同算力下准确率提升

2026.10.02 · 事件 · 论文 · 论文预印本

论文提出 CLM,把上下文当文件让模型自行增删,零样本即超越现有上下文管理策略。

论文提出 Context Language Models(CLM),把上下文当作文件、允许模型不受限制地更新,从而原生管理自身上下文,并可自然扩展到多智能体场景。零样本构建的 CLM 在多项任务上超过 SOTA 上下文管理策略,如 BrowseComp-Plus 上准确率高 11.4%、FLOPs 少 21.5%。作者还给出技能优化与在线强化学习方法,并联合设计 Suffix Cache Reuse 服务方案。

  • 把上下文当文件,模型可不受限更新
  • 零样本即超越 SOTA 上下文管理策略
  • BrowseComp-Plus 准确率高 11.4%、FLOPs 少 21.5%
  • 12 小时 EdgeBench 分数高 5%、FLOPs 少 59%
  • 在线 RL 使 Qwen3.5-9B 在 BrowseComp-Plus 提升

为什么值得看

上下文管理正从外部框架转向模型内建能力

适合谁关注

关注长上下文、智能体与推理效率的研究者和工程师

原始来源