3k美元打造128GB VRAM+256GB DDR4家用推理服务器
2026.09.14 · 事件 · 硬件DIY · 社区热议
Reddit用户分享自建4xV620推理服务器，运行Qwen3.8-next-flash。
Reddit用户分享自建家用推理服务器，配置4xV620（128GB VRAM）、256GB DDR4 RDIMM、EPYC 7452等，总价约3k美元。该机器运行Qwen3.8-next-flash Autoround W4A16，在128k+上下文下实现1.3k prefill和70tg代码/60tg散文速度，功耗500-900W。
- 4xV620共128GB VRAM，总成本约3k美元
- 256GB DDR4 RDIMM 2666，EPYC 7452 CPU
- Qwen3.8-next-flash W4A16，128k+上下文
- prefill 1.3k，decode 70tg代码/60tg散文
- 功耗500-900W，用户对性能满意
为什么值得看
展示高性价比自建AI推理服务器方案及实际性能。
适合谁关注
AI开发者、自建服务器爱好者、大模型推理用户。