Nanosaur2 在单张 5090 上实现每秒生成 7 张图
2026.10.06 · 产品 · 新模型 · 社区热议
Nanosaur2 用 4 步 turbo 解决小模型生成慢的问题，速度提升 12.5 倍。
Nanosaur2 是一个 660m 参数的小模型，此前被抱怨生成速度与参数量不匹配。作者称现已通过 4 步 turbo 解决，在单张 5090 上可每秒生成 7 张图，质量接近原模型且提速 12.5 倍。该模型采用字节跳动的新 DMAD 方法，小到可跑在手机和边缘设备上。
- Nanosaur2 参数量为 660m
- 采用 4 步 turbo 解决生成慢问题
- 单张 5090 每秒可生成 7 张图
- 质量接近原模型，提速 12.5 倍
- 使用字节跳动 DMAD 方法，可跑在手机和边缘设备
为什么值得看
小模型推理速度大幅提升，适合端侧和研究微调场景。
适合谁关注
关注小模型、端侧部署和模型微调的研究者与开发者。