斯坦福让GPT-6 Astra直接修改机器人参数:只动65行词嵌入,修复一类指令失灵
2026.11.13 · 收录日 2026.11.13 · 模型 · 论文 · 论文预印本
不改梯度、不加示范数据,仅编辑65行词嵌入就让机器人听懂换种说法。
斯坦福等研究者让 GPT-6 Astra 以调试器身份直接修改机器人策略权重,只改嵌入表 65 行、占检查点参数 0.00367%。效果最好的编辑 C 在 765 条留出改写指令上把成功率从 86.3% 升至 92.0%,含被改词元的 335 条从 74.3% 升至 87.5%,另 430 条逐回合成败不变。
- Astra 在保留状态的 Python 工作区中查看张量、写入替换值,再依据仿真反馈筛选候选,每次语言编辑限 50 次工具请求。
- 编辑 C 把成功数从 660 提到 704:48 个原失败回合成功、4 个原成功回合退化,净增 44 次,精确配对检验 p=1.31×10⁻¹⁰。
- 65 行共改变 132,768 个参数值,占导出检查点 0.00367%;cooking 词元嵌入改为 25% 原向量加 75% 的 stove 向量。
- 对照实验显示随机方向移动无提升,完整替换目标嵌入已达 90.5%,与编辑 C 的 92.0% 相比 p=0.0614,未达显著。
- 公开的 16 次机器人实验中三次语言修复全部保留,其余 13 次有 12 次放弃候选,唯一保留的后缀跟进 p=0.542 无显著收益。
为什么值得看
看 LLM 能否像调试器一样直接改机器人权重。
适合谁关注
机器人、具身智能与模型编辑方向研究者。
