LLM 注意力可视化：交互式展示生成时如何引用前文
2026.09.09 · 产品 · 可视化工具 · 本人发布
开发者用 Transformers.js 构建可视化工具，展示 LLM 生成时对前文 token 的注意力权重。
开发者构建了一个基于 Transformers.js 的 React 应用，通过修改 ONNX 模型暴露内部注意力值，可视化 LLM 生成时对前文 token 的引用。该工具支持点击或悬停查看生成 token 受哪些前文影响，并预生成多个示例提示。
- 可视化注意力权重，点击或悬停查看影响
- 使用 6 亿参数模型，可复现 JS 函数
- 预生成提示，无需等待模型下载
- 修改 ONNX 文件暴露内部值
- 展示复制粘贴和组合信息的机制
为什么值得看
直观理解 LLM 如何选择性引用前文，降低黑箱感。
适合谁关注
对 LLM 可解释性感兴趣的开发者、研究者和爱好者。