Context Language Models:让模型自己管理上下文,同算力下准确率提升
2026.10.02 · 事件 · 论文 · 论文预印本
论文提出 CLM,把上下文当文件让模型自行增删,零样本即超越现有上下文管理策略。
论文提出 Context Language Models(CLM),把上下文当作文件、允许模型不受限制地更新,从而原生管理自身上下文,并可自然扩展到多智能体场景。零样本构建的 CLM 在多项任务上超过 SOTA 上下文管理策略,如 BrowseComp-Plus 上准确率高 11.4%、FLOPs 少 21.5%。作者还给出技能优化与在线强化学习方法,并联合设计 Suffix Cache Reuse 服务方案。
- 把上下文当文件,模型可不受限更新
- 零样本即超越 SOTA 上下文管理策略
- BrowseComp-Plus 准确率高 11.4%、FLOPs 少 21.5%
- 12 小时 EdgeBench 分数高 5%、FLOPs 少 59%
- 在线 RL 使 Qwen3.5-9B 在 BrowseComp-Plus 提升
为什么值得看
上下文管理正从外部框架转向模型内建能力
适合谁关注
关注长上下文、智能体与推理效率的研究者和工程师