Reddit 网友装齐 4 张 Tesla T4,本地推理机达 64GB 显存
2026.10.01 · 产品 · 硬件装机 · 社区热议
他用 4 张 Tesla T4 组出 64GB 显存的本地推理主机,跑 llama.cpp 与 OpenWebUI。
一位 Reddit 网友晒出自己组装完成的本地推理主机:4 张 Tesla T4 16GB 显卡,合计 64GB 显存,搭配 SuperMicro X11SPA-T 主板、Xeon W3225 和 768GB DDR4 ECC 内存。他原本打算升级 CPU,但对比旧机器上核心更多的 CPU 后速度表现很好,认为升级不会有差别。
- 4 张 Tesla T4 16GB,合计 64GB 显存
- 主板为 SuperMicro X11SPA-T,CPU 为 Xeon W3225
- 内存 768GB DDR4 ECC 2666,4 块 1TB 三星 870 EV
- 系统跑 Ubuntu 26.04、llama.cpp、OpenWebUI 和自写
- 作者称与旧机器更多核心的 CPU 相比速度很好,暂不升级 CPU
为什么值得看
一份真实的本地多卡推理装机配置参考,含具体硬件与软件栈。
适合谁关注
关注本地部署大模型、多卡推理装机的玩家和开发者。