返回工具库

自建统一模型网关,管理路由和调用预算。

访问官网(新窗口)

认识 LiteLLM

开源 AI 网关与 LLM 代理,提供 OpenAI 兼容接口、模型路由、费用跟踪及预算控制,支持自行部署。

可以从这些任务开始

  • 开源网关
  • 成本管理