vhotseat：让本地 LLM 与 ComfyUI 在同一张 16GB 显卡上轮流用显存，通宵渲染不 OOM
2026.10.19 · 产品 · 开源项目 · 开源项目
开源工具 vhotseat 让 LLM 与 ComfyUI 分时占用显存，避免同卡 OOM。
开发者发布开源工具 vhotseat，让本地 LLM 服务与 ComfyUI 在同一张消费级显卡上轮流占用 VRAM 和 RAM：排队渲染时卸载 LLM，LLM 提问时释放 ComfyUI 模型。作者在 RTX 5070 Ti 16GB 上跑通 MiniMax H3 视频渲染，一晚完成四轮 GPU 交接且无 OOM。
- LLM 与 ComfyUI 分时占用显存，互不叠加加载
- 渲染排队时卸载 LLM，LLM 提问时释放 ComfyUI 模型
- 作者配置：RTX 5070 Ti 16GB、64GB RAM、Linux
- 演示中完成四轮 GPU 交接，通宵无人值守无 OOM
- MIT 开源，Linux 与 NVIDIA 支持，Windows 计划中
为什么值得看
想在单张消费级显卡上同时跑 LLM 和视频生成的人可参考。
适合谁关注
本地部署 LLM 与 ComfyUI 的开发者、AI 爱好者。