DeepSeek 开源 DeepInfer 推理框架，支持 V4.1-Flash 与昇腾 950

2026.10.20 · 产品 · 开源发布 · 开源项目

仓库补充 SWA 重放、异步调度、确定性采样与基准配置细节

DeepSeek 于 10 月 20 日全面开源内部推理框架 DeepInfer，并同步开源 Token 编解码组件 deepseek-recipe，支持 DeepSeek-V4.1-Flash。GitHub 仓库补充了 SWA 有界重放、异步调度、确定性采样、结构化输出等开关，以及构建依赖与基准配置。硬件支持 NVIDIA SM100 与华为昇腾 950，采用 Apache 2.0 许可。

  • DeepInfer 全面开源，同步开源 deepseek-recipe 编解码…
  • 支持 DeepSeek-V4.1-Flash，默认 checkpoint 为…
  • 含 FlashMLA、DeepGEMM、DeepEP 等算子与 MoE EP…
  • SWA 有界重放、异步调度、确定性采样等开关细节披露
  • 硬件支持 NVIDIA SM100 与华为昇腾 950，Apache 2.0…

为什么值得看

推理框架决定 AI 服务算力成本与电力消耗，开源降低部署门槛

适合谁关注

DeepSeek

原始来源