Qwen 3.8 27B 在笔记本上也能读懂模型权重
2026.11.04 · 收录日 2026.11.04 · 观点 · 论文 · 本人发布
作者实测本地 27B 模型仅凭原始权重猜出游戏,耗时 46 分钟
Simon Willison 用论文《Sparks of Weight-Space Programming》的提示词做实测:把四个小游戏的网络权重直接喂给模型,让它不看代码猜游戏。Qwen 3.8 27B 在笔记本上耗时 46 分 12 秒、用 43,506 个推理 token 猜出 Pac-Man,Kimi K3.1 Pro 则用 9 分 41 秒猜出 Breakout。
- 论文称 GPT-6 Astra 能仅凭原始权重判断网络训练目标,并原生编辑 0.016% 权重把 Qwen3.5-0.8B 的 MATH-500 从 7.9% 提到 48.1%
- 作者实测 Qwen 3.8 27B(约 17GB)在笔记本上猜 Pac-Man,耗时 46 分 12 秒、43,506 推理 token,自评置信度 72%
- Kimi K3.1 Pro 跑 Breakout 提示词,9 分 41 秒、19,493 推理 token 猜对
- spaCy 作者 Matthew Honnibal 批评论文把「无工具读权重」和「用代码改模型」两件事混为一谈
- 作者认为无工具理解权重这一问更有意思,并给出用 llm -f 直接拉取 GitHub 提示词复现的方法
为什么值得看
本地小模型也能做权重空间推理,复现门槛很低
适合谁关注
关注 LLM 能力边界与本地部署的开发者