Voodoo Dynamic Quant 开源:梯度下降优化动态量化,现已 MIT 许可

2026.09.15 · 事件 · 开源项目 · 本人发布

Voodoo Quant 动态量化方法开源,用梯度下降自动选择每张量量化级别。

作者宣布将此前私有的动态量化方法 Voodoo Quant 开源,并发布工具集。该方法通过梯度下降优化每个张量的量化级别,在激进量化级别上表现优于 Unsloth Dynamic 3.0。项目目前支持 Qwen 模型,可适配其他架构。

  • Voodoo Quant 方法现已开源,采用 MIT 许可
  • 使用梯度下降优化每张量量化级别
  • 在激进量化级别上优于 UD 3.0
  • 提供完整训练工具集,支持 Qwen 模型
  • 作者希望社区改进并用于低显存设备

为什么值得看

首个用梯度下降优化动态量化级别的开源方法,可能提升低显存模型性能。

适合谁关注

关注本地模型量化、低显存部署的开发者与研究者。

原始来源