Redis 作者新作 ds4:在本地跑 DeepSeek V4.1、GLM 5.x 与 Qwen3.8

2026.10.03 · 产品 · 开源项目 · 开源项目

Redis 作者 antirez 发布 ds4,一个用 C 写的本地推理引擎,支持多款前沿开源模型。

Redis 作者 antirez 发布 DwarfStar 4(ds4),一个用 C 编写的窄用途本地推理引擎,面向高内存 Mac、CUDA 和 ROCm 机器。它支持 DeepSeek V4 / V4.1 Flash、GLM 5.x 和 Qwen3.8 Flash Next,含文本与视觉模型、本地 API、CLI 和原生 agent,采用 MIT 许可。

  • C 编写的本地推理引擎,支持 Metal / CUDA / ROCm
  • 支持 DeepSeek V4/V4.1、GLM 5.x、Qwen3.8 Flas
  • 非对称 2-bit 量化压缩路由专家,保留关键路径
  • KV 缓存可存 SSD,按 prompt 哈希恢复,免全量重预填
  • 一个引擎三种接口:ds4、ds4-server、ds4-agent

为什么值得看

Redis 作者出手,把前沿开源大模型塞进本地高内存机器。

适合谁关注

想在本地跑大模型的开发者、Mac 与 CUDA/ROCm 用户

原始来源