AI真能用好科研软件吗?清华团队推出OSWorld-Science,智能体迎接硬核大考
2026.10.13 · 事件 · 论文 · 媒体报道
清华牵头推出科研软件智能体评测基准,146项任务上12个模型平均得分仅34.3%。
清华大学研究团队联合多所海内外高校与研究机构推出 OSWorld-Science,一个面向真实科研场景的计算机使用智能体评测基准。该基准包含 146 项专家设计的任务,涵盖 7 大科学领域、14 种科研软件配置,12 个视觉语言模型的平均任务得分仅为 34.3%。
- OSWorld-Science含146项任务,覆盖7大科学领域、14种科研软件…
- 12个视觉语言模型参评,平均任务得分仅34.3%
- Claude Fable 5.1以73.7%平均任务得分领先
- 61%的失败运行没有留下可评分产物,并耗尽步骤或时间预算
- 评测依据任务结束后的文件产物与应用状态,而非模型自述
为什么值得看
看清AI在真实科研软件操作中的能力边界与失败模式。
适合谁关注
关注AI Agent、AI for Science的研究者与开发者。