Reflection 发布 Beam 安全技术报告:四类系统性风险均评为 Limited

2026.11.06 · 收录日 2026.11.06 · 事件 · 安全报告 · 官方发布

Reflection 公开 Beam 安全训练与评估细节,并启动开源安全计划 Project Iris

Reflection 发布 Beam 安全技术报告,介绍其预训练数据过滤与安全后训练流程,并按开放安全框架(OSF)评估 Beam 在生物武器、化学武器、失控、网络攻击四类系统性风险上均为 Limited。报告称在对话式 ISE 中,Beam 对 88.9% 的有害请求拒绝或转向,同时满足 81.5% 的无害请求。Reflection 同时启动开源安全计划 Project Iris,将陆续发布安全研究、开源工具与评估产物。

  • 按开放安全框架(OSF),Beam 在生物武器、化学武器、失控、网络攻击四类系统性风险上均被评为 Limited
  • Limited 指模型未带来攻防平衡的实质变化,也未相对同类开放权重模型扩大威胁面
  • 对话式 ISE 中 Beam 拒绝或转向 88.9% 有害请求,同时满足 81.5% 无害请求,处于有害/无害权衡的观测帕累托前沿
  • 安全训练包括预训练数据过滤(去重、NSFW 过滤、PII 清洗)与安全后训练(SFT 加 RL,含红队迭代)
  • Reflection 启动 Project Iris 开源安全计划,首个发布为 Iris Safety Evaluations(ISE)

为什么值得看

了解开放权重模型如何做安全训练与风险分级评估

适合谁关注

AI 安全研究者、开源模型开发者、政策与合规关注者

原始来源

查看收录日 2026.11.06 全部卡片 · 全部卡片归档