GPT控制机械臂太危险!把菜刀悬在人手上,手机丢进水里

2026.11.18 · 收录日 2026.11.18 · 模型 · 论文 · 论文预印本

多校联合提出RoboRisk基准与LEASH护栏,六个前沿大模型控制机械臂全部踩雷。

西浦、昆杜、NUS等多校联合提出机器人安全基准RoboRisk与安全护栏LEASH。评测显示,六个前沿大模型的伤害率在9.06%到76.92%之间,没有一个规划器既安全又有用;加上LEASH后,四个模型在真机任务中零伤害。

  • RoboRisk包含92个仿真任务和13个真机任务,覆盖五类风险,每个任务闭环执行。
  • 六个前沿模型伤害率9.06%~76.92%,GPT-6.1 Sol真机13个任务中5个造成伤害。
  • LEASH由任务门、动作门、提交门和共享安全策略组成,模型无关、无需重新训练。
  • 加入LEASH后GPT-6 Astra仿真伤害率从11.23%降至0.00%,安全成功率反升至80.80%。
  • GPT-6 Luna和Grok 4.7仍不可控,作者不建议在真机实验中使用这两个模型。

为什么值得看

看清大模型操控真实机械臂的安全盲区与轻量护栏方案。

适合谁关注

关注具身智能、机器人安全与AI智能体的研究者与从业者。

原始来源

查看收录日 2026.11.18 全部卡片 · 全部卡片归档