纯 C 语言实现的 microGPT 项目在 Apple M5 芯片上实现每秒 10M tokens 吞吐
2026.08.20 · 产品 · 开源项目 · 开源项目
该项目实现了一个完全依赖 libc 的纯 C 语言 GPT 模型，支持训练与推理。
开源项目 microgpt-c 实现了在纯、无依赖的 C 语言中进行 GPT 的训练与推理。它仅使用 libc，在 Apple M5 Pro 上实现了 10,168,430 tok/sec 的推理性能，并展现出良好的泛化能力。
- 单文件纯 C 实现，无第三方依赖且仅依赖 libc。
- 支持在 Apple M5 等硬件上运行，FP32+NEON 达 10M+ tps
- 包含完整的前向传播、反向传播、Adam 优化器与采样。
- 模型参数量为 4192，表现出优于三元模型的小模型泛化能力。
为什么值得看
展示了极简 C 语言实现大模型训练与推理的极限性能，极具极客学习价值。
适合谁关注
C 语言开发者、AI 模型底层研究者及硬件性能测试人员。