3.8B 模型训练 43 小时仅花 998 美元，CORE 得分 0.384
2026.09.10 · 事件 · AI 事件 · 社区热议
个人开发者用 998 美元训练 3.8B 模型，性能超越 nanochat d32。
Hugo Vergnes 在晚间开发，用 5090 调试、租用 B200 训练，以 998 美元成本在 43 小时内完成 3.8B 参数模型 little-lm，在 65.3B tokens 上训练，CORE 得分 0.384，超过 nanochat d32 的 0.310。
- 3.8B 模型训练成本 998 美元
- CORE 得分 0.384 超越 nanochat
- 使用 Muon 优化器和 ClimbMix 数据
- 梯形学习率调度提升收敛
- B200 性价比优于 H100
为什么值得看
展示个人以低成本训练高性能模型的可能性。
适合谁关注
对 LLM 训练感兴趣的开发者、研究者。