OpenRouter 如何按有效价格与速度在供应商间分配流量

2026.10.30 · 收录日 2026.10.30 · 产品 · 行业动态 · 官方发布

OpenRouter 详解路由机制:按有效价格与速度给各端点分配流量份额。

OpenRouter 发文说明其路由逻辑:当用户把供应商选择交给平台时,会按有效价格与速度给每个端点分配流量份额,最优端点获得最多流量,落后端点份额快速下降但仍保留少量探索流量。此外还有熔断、流量上限和短期退避三层限制,所有输入均来自最近生产流量。

  • 路由按有效价格与速度把端点划在竞争边界两侧,边界内端点获得最多流量,边界外份额快速下降但仍有少量探索流量。
  • 有效价格是端点最近 30 分钟实际收费,反映真实缓存命中率与输入输出 token 组合,可能与标价差别很大。
  • 速度以端到端输出 TPS 衡量并包含 TTFT;TTFT 还会额外直接计入调整后价格,因为交互式使用最依赖它。
  • 可靠性错误(5xx、无响应、设置错误、中途失败)惩罚很重;429 主要通过流量上限、短期退避和熔断起作用。
  • 路由会学习端点能承受的负载形成流量上限,扩容后 429 停止时上限自动上升;用户指定供应商顺序或自带密钥时路由不介入。

为什么值得看

理解 OpenRouter 流量分配规则,有助于优化端点定价与性能表现。

适合谁关注

使用或接入 OpenRouter 的模型供应商与开发者。

原始来源

查看收录日 2026.10.30 全部卡片 · 全部卡片归档