LiteLLM 大模型统一网关

用一套 OpenAI 格式的接口调用上百家模型服务的开源网关

打开就用AI 整理,待开发者认领模型运行与部署
评分人数不足呦探分评分人数不足大众分评分方法
这个页面由 AI 根据官网公开信息整理,可能有错。产品团队可以认领后修改。 认领这个产品
星标
6.2万
复刻
1.3万
主要语言
Python
许可证
Other
最近更新
复制安装指令(给 AI 编程工具)

粘贴到 Codex、Claude Code、Cursor、Trae 等 AI 编程工具里,回车就会开始安装。第一次复制前请先阅读风险提示。

这些文件由项目作者放在 GitHub 上,本站不开发、不托管这些软件,也不检测其代码;国内访问 GitHub 可能较慢。使用前请阅读 第三方软件风险提示和项目的许可证。 数据更新于 2026/11/01 报告问题

介绍

LiteLLM 是 BerriAI 维护的开源 AI 网关,把上百家模型服务的调用统一成 OpenAI 格式,除 OpenAI、Anthropic 外,也包括通义千问(DashScope)、Moonshot、火山引擎等国内服务。

它有两种用法:在代码中直接引入 Python SDK,或部署成代理服务器供整个团队共用,并自带管理后台。BerriAI 另外提供付费企业版。

能做什么

  • 用同一套调用代码切换不同厂商的模型
  • 为团队分发虚拟密钥,统计花费并控制访问权限
  • 在网页管理后台监控调用和调整配置

运行需要:Python 环境(代理服务也可用 Docker 部署),以及所调用模型服务的 API Key

这段介绍由 AI 根据项目的公开说明整理,可能有疏漏,以项目主页为准。

评测

0 条评测

还没有评测。用过的话,来写第一条吧。

写评测