量化后画面闪烁？时序稳定的视频世界模型2-bit KV Cache压缩方案诞生
2026.10.07 · 观点 · 论文 · 论文预印本
哈工大（深圳）与新加坡国立大学提出免训练2-bit KV Cache量化框架QuantWM，最高压缩6.20倍。
哈尔滨工业大学（深圳）iLearn-Lab 与新加坡国立大学 LV-Lab 提出免训练 2-bit KV Cache 量化框架 QuantWM，针对视频世界模型量化后画面闪烁、模糊的问题，从注意力保护角度设计 QSAC 与 PSAC 两项机制。在五种模型上验证，最高实现 6.20 倍 KV Cache 压缩，并改善量化后的视频质量。
- 现有 2-bit 量化方法评测分数接近 BF16，但画面仍闪烁、模糊
- 仅量化 Key 比仅量化 Value 带来更明显的视觉退化
- QSAC 按量化后注意力扰动选择聚类中心
- PSAC 以低秩形式补偿 Key 量化误差的主方向分量
- 五种模型验证，实际 KV Cache 压缩最高 6.20 倍
为什么值得看
揭示低比特 KV Cache 压缩中评测分数掩盖的视觉退化问题
适合谁关注
关注视频生成、世界模型与模型压缩的研究者和工程师