GPT-6 Astra改权重爆火?我们做了一组对照实验,模型根本没变聪明

2026.11.08 · 收录日 2026.11.08 · 观点 · 技术观点 · 媒体报道

无涯智远用三组对照实验发现,Astra现场改权重改得动参数,却学不会新知识、人格和规则。

机器之心报道,无涯智远创始人张牧涵针对MIT CSAIL博客《Sparks of Weight-Space Programming》中GPT-6 Astra仅改Qwen3.5-0.8B约0.016%权重就把MATH-500从7.9%提到48.1%的结果做了对照实验。他们发现关掉思考模式后原模型准确率是48.95%,并进一步用Qwen3.8-27B比较未更新、Astra编辑和超网络内化三种状态,Astra在知识、风格、技能三类任务上均未成功。

  • 原博客称GPT-6 Astra不改梯度下降,只改Qwen3.5-0.8B约0.016%权重,把MATH-500从7.9%提到48.1%。
  • 作者补充对照:同一测试集下,未编辑的Qwen3.5-0.8B关掉思考模式后准确率为48.95%。
  • 原博客也指出,在很少出现循环的Gemma 3 270M上,MATH-500只从6.8%变到7.0%~7.7%。
  • 用Qwen3.8-27B比较三种状态:SQuAD上只有超网络更新能脱离材料作答,Astra仍把Cestida当绦虫。
  • CharacterBench上超网络更新体现角色风格,Astra写入权重后仍自称通义千问;lingOLY上超网络答对7题,Astra仍只答对1题。

为什么值得看

看清“改得动权重”与“学会新能力”之间的差距。

适合谁关注

关注大模型持续学习、知识编辑与超网络方向的研究者和从业者。

原始来源

查看收录日 2026.11.08 全部卡片 · 全部卡片归档