Aleph Alpha 发布 Kolibri:78.1B 总参数、3.46B 激活、1M 上下文开放权重模型

2026.10.04 · 产品 · 模型发布 · 官方发布

官方补充 Kolibri 精确参数与训练细节:3.46B 激活、20T token、四档推理

Aleph Alpha 发布开放权重模型 Kolibri,英德双语 MoE,总参数 78.1B、激活 3.46B,支持最长 1M token 上下文,Apache 2.0 许可。官方补充:预训练 20T token、原始数据超 200T,最长训练长度 256k,推理分 none/low/medium/high 四档,德语占预训练 token 21.3%,在德国和芬兰基础设施训练。

  • 总参数 78.1B、激活 3.46B,上下文最长 1M token
  • 预训练 20T token,原始数据超 200T,最长训练 256k
  • 推理模式分 none/low/medium/high 四档
  • 德语占预训练 token 21.3%,翻译数据仅 6%
  • 在德国和芬兰基础设施训练,无外国控制

为什么值得看

官方披露精确参数与训练细节,补充主卡未有的技术事实

适合谁关注

Aleph Alpha

原始来源