何恺明团队发布多模态Harness框架

2026.10.11 · 事件 · 论文 · 论文预印本

VISTA把环境画面原样存档,模型推理时可随时调取、放大检查,无需重新训练模型。

何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生Harness——VISTA,让现有多模态模型直接观察环境、保存原始画面,并在推理时随时回看、放大和检查细节,无需从头训练。搭配VISTA,Claude Opus 5.0完成ARC-AGI-3全部25个公开游戏,动作效率得分满分100,所用动作数比首次游玩的人类基线少…

  • VISTA由视觉观测、无损视觉记忆、主动视觉检查三组件构成
  • 每帧原样存到上下文之外,含动画中间帧,按回合号和帧号索引
  • 默认只向模型展示最后一帧,需要时再主动调取历史画面
  • Claude Opus 5.0通关ARC-AGI-3全部25个游戏,效率得分…
  • GPT-5.6 Sol同样全部通关,得分99;未额外训练新模型

为什么值得看

视觉记忆成为可随时调用的上下文,多模态智能体有了原生脚手架。

适合谁关注

关注多模态智能体、视觉推理与Agent框架的研究者和开发者。

原始来源