LI工具 / BerriAI
LiteLLM
提供统一模型调用接口的 Python SDK 与 AI 网关，可用于多供应商接入、路由、虚拟密钥和用量管理等场景。
AI 网关多模型用量管理
它能帮你做什么？
提供统一模型调用接口的 Python SDK 与 AI 网关，可用于多供应商接入、路由、虚拟密钥和用量管理等场景。
- 对接多个模型供应商的开发者
- 管理团队模型调用的平台工程师
写代码编码助手、代码审查与工程技能
部署与运维云基础设施、故障诊断与安全
如何开始使用
先选择 SDK 集成还是 Proxy 网关部署。按 README 为一个供应商配置认证，验证普通请求、流式输出和错误响应，再逐步增加路由与用量控制。
查看原始项目文档 费用与使用条件
非企业目录采用 MIT；enterprise/ 按独立许可。模型供应商、企业功能与网关运行资源可能分别收费。
查看 MIT；enterprise/ 独立许可 许可证特点与使用边界
重点是统一模型接口及治理，不负责替代上游模型。OpenAI 风格接口兼容不代表每个供应商的参数与行为完全一致。
- 多模型切换前验证工具调用、流式格式、超时、重试和 token 用量。
- 重试与回退可能增加费用，日志中不要记录完整密钥。
介绍依据与原始来源
本站整理介绍并引导访问原始项目。功能、支持平台与价格可能变化，实际使用前请核对官方文档。