Gemma-4-31B-Humanlike-Chat:在官方 Gemma 4 31B 上复刻 2.0 的拟人语气

2026.10.30 · 收录日 2026.10.30 · 产品 · 新模型 · 本人发布

作者用与 2.0 相同的两阶段配方,把拟人聊天风格迁移到官方 Gemma 4 31B 上

作者 LessThanThreeAI 发布 Gemma-4-31B-Humanlike-Chat,基于 google/gemma-4-31B-it 训练,采用与 2.0 相同的 SFT 加 on-policy 蒸馏两步配方,在 1 张 H200 上完成。盲测中该模型回复被评委误认为真人消息的比例为 26%,而 Google Gemma 4 31B 为 0%;When2Call 从 46 提升到 66,BFCL irrelevance 从 81 提升到 90。

  • 拟人化:无需提示词即可用短小写句子像人一样聊天,盲测被误判为真人消息的比例 26%,Google 基座为 0%
  • 工具调用:When2Call 66(Google 46),BFCL irrelevance 90(Google 81),BFCL simple 96(Google 95)
  • 知识保持:MMLU-Pro 82.5,与 Google 基座持平;LiveCodeBench 66、IFEval 90.0 均高于 2.0
  • 训练方法:SFT 13,740 行 + 12 步 on-policy 蒸馏,双教师分别负责拟人聊天与指令、工具、代码
  • 长对话修复:长聊末尾仅 1~2 个词的回复占比从 SFT 后的 28% 降到蒸馏后的 12%

为什么值得看

想找一款不靠提示词就能自然聊天、且工具调用更稳的开源模型

适合谁关注

关注开源大模型微调、拟人对话与本地部署的开发者

原始来源

查看收录日 2026.10.30 全部卡片 · 全部卡片归档