姚顺雨和混元团队上Reddit答网友,Hy小模型已进路线图

2026.11.21 · 收录日 2026.11.21 · 模型 · 行业动态 · 社区热议

混元团队在Reddit答网友,透露Hy小模型、Flash-Lite及24GB显存版本均在规划中。

姚顺雨和腾讯混元团队在Reddit围绕Hy4与Hy4 flash举办AMA,回答训练、部署与量化问题。团队称Hy小模型已在路线图上,将推出Flash-Lite和面向24GB显存的模型,并透露后训练最难改善的行为是过度思考。

  • Hy小模型已在路线图上,未来将发布Flash-Lite和面向24GB显存的模型。
  • Hy4 flash支持图文输入和最长100万Token上下文,每Token激活约120亿参数,单任务成本约为Hy4的1/20。
  • 团队称后训练最难改善的行为是过度思考,Flash先用旗舰蒸馏再用强化学习压缩推理链。
  • 96GB显存+128GB内存可跑Hy4 flash,部分专家层和Engram表可卸载到系统内存。
  • llama.cpp适配正在做,预计近期在社区放出,同时与vLLM、SGLang等社区合作。

为什么值得看

了解混元下一代模型路线与训练、部署细节。

适合谁关注

关注大模型训练与本地部署的开发者。

原始来源

查看收录日 2026.11.21 全部卡片 · 全部卡片归档