DeepSeek-V4.1 Flash:将 KV 缓存压缩推向极限

2026.09.17 · 事件 · 技术报告 · 论文预印本

DeepSeek-V4.1 Flash 技术报告发布,通过架构优化实现 KV 缓存极致压缩与预填充加速。

DeepSeek-V4.1 Flash 技术报告显示,该模型针对长程 Agent 工作流中 KV 缓存存储压力与预填充计算负担进行优化。预填充阶段仅激活 20 层(8B 参数),解码阶段激活 16B 参数,速度接近 420 Tokens/s。工程上采用 GQA 式头压缩、CSA 块压缩及 CSA2 跨层压缩,并支持 FP4 KV 缓存。

  • 速度接近 420 Tokens/s
  • 预填充仅需 20 层,激活 8B 参数
  • 解码激活 16B 参数
  • 采用 GQA、CSA、CSA2 压缩
  • 支持 FP4 KV 缓存

为什么值得看

揭示 KV 缓存压缩前沿技术,影响长上下文 AI 应用效率。

适合谁关注

关注大模型推理优化与长上下文应用的开发者。

原始来源