把 GLM-5.3-Flash 变成类 Jev 的单次前向决策模型
2026.09.27 · 产品 · 技巧 · 社区热议
无需微调，用提示词让现成 LLM 一次前向输出带概率的类型化决策
Johannes Hötter 与 Marko Rosenmüller 介绍一种方法：通过给选项编号、预填 choice_index: 并读取该位置的概率分布，让现成 LLM 在单次前向中完成类型化决策，无需微调。在 Privatemode 上运行的 GLM-5.3-Flash 经公开数据集基准测试，决策准确率与速度与 TypeSafe 的 Jev 相当，还额外支持图像决策。
- 给选项编号并预填 choice_index:，读取该位置概率分布
- 无需微调，直接用出厂模型，区别于 Jev、Laya 的专门训练
- GLM-5.3-Flash 在 Privatemode 上准确率与速度对标 Je
- 额外支持图像上的类型化决策，Jev 不具备
- 答案以各选项概率分布返回，通常几百毫秒内
为什么值得看
用现成 LLM 低成本替代专用决策模型，还多出图像能力
适合谁关注
做高吞吐决策、LLM 工程与推理部署的开发者