提速2.48倍且画质不掉线,AI视频“降本增效”有了新解法

2026.11.16 · 收录日 2026.11.16 · 模型 · 新模型服务 · 媒体报道

是石科技推出多模态模型服务,用自适应缓存加速等技术兼顾视频生成速度与质量。

是石科技发布「多模态模型服务」,针对视频生成推理加速、缓存与显存管理、多模态Token压缩及素材理解与生成链路衔接做优化。测试条件下相比Dense基线实现端到端平均2.48倍加速,同时保持生成质量;其免训练Token压缩方法在WorldSense评测中实现1.33倍加速。

  • 采用基于历史缓存残差的自适应加速技术,动态调整计算与刷新策略,测试条件下相比Dense基线端到端平均加速2.48倍且保持生成质量。
  • 将智能缓存决策与SGLang推理框架结合,通过缓存复用、分块处理、压缩及智能调度减少重复计算与显存开销。
  • 提出基于模态自适应的免训练Token压缩方法,利用基于AudioCLIP的模态感知技术调整Token保留与压缩策略,WorldSense评测中实现1.33倍加速。
  • 构建基于全模态模型的Context Engine解决方案,通过素材绑定、结构化分镜、时轴校验及错误修正衔接多模态理解与视频生成。
  • 服务层面覆盖API接入、任务编排、模型路由、推理执行与结果交付,并支持任务状态管理、并发控制、超时重试与恢复机制。

为什么值得看

了解AI视频从单次生成走向批量生产时,如何平衡质量、时延与算力成本。

适合谁关注

AI视频生成从业者、多模态推理工程师、关注算力成本的技术决策者。

原始来源

查看收录日 2026.11.16 全部卡片 · 全部卡片归档