Litelm:精简版 LiteLLM,2900 行代码实现路由与翻译
2026.09.12 · 产品 · 开源项目 · 开源项目
Litelm 将 LiteLLM 核心压缩至 2900 行,仅依赖 openai 和 httpx。
Litelm 是一个精简版 LiteLLM,将模型路由和消息翻译核心压缩至约 2900 行代码,仅依赖 openai 和 httpx。它剔除了代理服务器、缓存、成本追踪等冗余功能,保留调用路径,API 与 LiteLLM 兼容,支持流式、工具调用和嵌入。
- 核心仅 2900 行,2 个依赖
- 支持 19 个提供商路由
- API 与 LiteLLM 完全兼容
- 提供异步变体 acompletion 等
- 错误处理映射到异常层次
为什么值得看
为 LiteLLM 用户提供极简替代,减少依赖和复杂度。
适合谁关注
使用 LiteLLM 的开发者、追求轻量级 LLM 调用库的工程师。