Gemma-4-31B-Humanlike-Chat:在官方 Gemma 4 31B 上复刻 2.0 的拟人语气
2026.10.30 · 收录日 2026.10.30 · 产品 · 新模型 · 本人发布
作者用与 2.0 相同的两阶段配方,把拟人聊天风格迁移到官方 Gemma 4 31B 上
作者 LessThanThreeAI 发布 Gemma-4-31B-Humanlike-Chat,基于 google/gemma-4-31B-it 训练,采用与 2.0 相同的 SFT 加 on-policy 蒸馏两步配方,在 1 张 H200 上完成。盲测中该模型回复被评委误认为真人消息的比例为 26%,而 Google Gemma 4 31B 为 0%;When2Call 从 46 提升到 66,BFCL irrelevance 从 81 提升到 90。
- 拟人化:无需提示词即可用短小写句子像人一样聊天,盲测被误判为真人消息的比例 26%,Google 基座为 0%
- 工具调用:When2Call 66(Google 46),BFCL irrelevance 90(Google 81),BFCL simple 96(Google 95)
- 知识保持:MMLU-Pro 82.5,与 Google 基座持平;LiveCodeBench 66、IFEval 90.0 均高于 2.0
- 训练方法:SFT 13,740 行 + 12 步 on-policy 蒸馏,双教师分别负责拟人聊天与指令、工具、代码
- 长对话修复:长聊末尾仅 1~2 个词的回复占比从 SFT 后的 28% 降到蒸馏后的 12%
为什么值得看
想找一款不靠提示词就能自然聊天、且工具调用更稳的开源模型
适合谁关注
关注开源大模型微调、拟人对话与本地部署的开发者
