Litelm:精简版 LiteLLM,2900 行代码实现路由与翻译

2026.09.12 · 产品 · 开源项目 · 开源项目

Litelm 将 LiteLLM 核心压缩至 2900 行,仅依赖 openai 和 httpx。

Litelm 是一个精简版 LiteLLM,将模型路由和消息翻译核心压缩至约 2900 行代码,仅依赖 openai 和 httpx。它剔除了代理服务器、缓存、成本追踪等冗余功能,保留调用路径,API 与 LiteLLM 兼容,支持流式、工具调用和嵌入。

  • 核心仅 2900 行,2 个依赖
  • 支持 19 个提供商路由
  • API 与 LiteLLM 完全兼容
  • 提供异步变体 acompletion 等
  • 错误处理映射到异常层次

为什么值得看

为 LiteLLM 用户提供极简替代,减少依赖和复杂度。

适合谁关注

使用 LiteLLM 的开发者、追求轻量级 LLM 调用库的工程师。

原始来源