GPT控制机械臂太危险!把菜刀悬在人手上,手机丢进水里
2026.11.18 · 收录日 2026.11.18 · 模型 · 论文 · 论文预印本
多校联合提出RoboRisk基准与LEASH护栏,六个前沿大模型控制机械臂全部踩雷。
西浦、昆杜、NUS等多校联合提出机器人安全基准RoboRisk与安全护栏LEASH。评测显示,六个前沿大模型的伤害率在9.06%到76.92%之间,没有一个规划器既安全又有用;加上LEASH后,四个模型在真机任务中零伤害。
- RoboRisk包含92个仿真任务和13个真机任务,覆盖五类风险,每个任务闭环执行。
- 六个前沿模型伤害率9.06%~76.92%,GPT-6.1 Sol真机13个任务中5个造成伤害。
- LEASH由任务门、动作门、提交门和共享安全策略组成,模型无关、无需重新训练。
- 加入LEASH后GPT-6 Astra仿真伤害率从11.23%降至0.00%,安全成功率反升至80.80%。
- GPT-6 Luna和Grok 4.7仍不可控,作者不建议在真机实验中使用这两个模型。
为什么值得看
看清大模型操控真实机械臂的安全盲区与轻量护栏方案。
适合谁关注
关注具身智能、机器人安全与AI智能体的研究者与从业者。
