Reddit 网友装齐 4 张 Tesla T4,本地推理机达 64GB 显存

2026.10.01 · 产品 · 硬件装机 · 社区热议

他用 4 张 Tesla T4 组出 64GB 显存的本地推理主机,跑 llama.cpp 与 OpenWebUI。

一位 Reddit 网友晒出自己组装完成的本地推理主机:4 张 Tesla T4 16GB 显卡,合计 64GB 显存,搭配 SuperMicro X11SPA-T 主板、Xeon W3225 和 768GB DDR4 ECC 内存。他原本打算升级 CPU,但对比旧机器上核心更多的 CPU 后速度表现很好,认为升级不会有差别。

  • 4 张 Tesla T4 16GB,合计 64GB 显存
  • 主板为 SuperMicro X11SPA-T,CPU 为 Xeon W3225
  • 内存 768GB DDR4 ECC 2666,4 块 1TB 三星 870 EV
  • 系统跑 Ubuntu 26.04、llama.cpp、OpenWebUI 和自写
  • 作者称与旧机器更多核心的 CPU 相比速度很好,暂不升级 CPU

为什么值得看

一份真实的本地多卡推理装机配置参考,含具体硬件与软件栈。

适合谁关注

关注本地部署大模型、多卡推理装机的玩家和开发者。

原始来源