本地推理引擎 llama.cpp 1.0.0 史诗级更新:支持超 150 种模型架构,断网也能满血跑大模型
2026.11.14 · 收录日 2026.11.14 · 产品 · 开源项目 · 媒体报道
llama.cpp 与 ggml 库版本迈入 1.0.0,明确 API/ABI 兼容性规则。
开发者 Georgi Gerganov 于 11 月 13 日宣布,开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。本次更新明确接口兼容性规则,两者今后通过主版本号标记 API 或 ABI 不兼容变化。llama.cpp 已支持超过 150 种模型架构变体及主流推测解码方法。
- llama.cpp 与 ggml 库版本迈入 1.0.0,由创建者 Georgi Gerganov 在 X 平台宣布。
- 明确接口兼容性规则:通过主版本号升级标记 API 或 ABI 不兼容变化,方便开发者判断升级边界。
- 工程质量投入三项:使用 Hugging Face 的 HF Buckets、HF Jobs 扩展 CI 基础设施。
- 在 NVIDIA、AMD、Qualcomm、Arm、IBM、Intel 硬件支持下,持续增加自托管测试运行器。
- llama.cpp 已支持超过 150 种模型架构变体及主流推测解码方法,ggml 后端可按需动态加载。
为什么值得看
本地跑大模型的核心开源项目迎来 1.0.0,兼容性规则更清晰。
适合谁关注
本地部署大模型的开发者、AI 推理与开源社区关注者。
