不自己跑 LLM 代理，你怎么知道模型调用发生了什么？
2026.10.19 · 观点 · 技巧 · 社区热议
HN 热议：自建 LLM 代理才能掌握多模型调用日志与数据路径
作者认为，依赖厂商前端和订阅时，用户只能看到无意义的用量展示，无法据此做工程决策。他主张自己部署 LLM 代理，以获得多供应商、多模型统一端点、虚拟 API 密钥、可控日志与快速切换能力，并称自己会改造代理来满足自定义需求。
- 厂商提供的用量展示对工程师做决策没有价值
- 自建代理可统一多供应商、多模型到单一端点
- 用虚拟 API 密钥避免主密钥散落在各处
- 日志可记录哪个密钥、何时、调用了什么模型
- 基础设施自控，切换模型和供应商无需重搭
为什么值得看
理解为什么工程师需要自建 LLM 代理来掌握调用可见性
适合谁关注
使用 LLM API 的开发者、平台工程师、AI 应用团队