跳至主要内容
五折优惠 全部方案,限时优惠。起价 $2.48/mo
LiteLLM

LiteLLM

LiteLLM 是一个 AI 网关,以 OpenAI 格式调用 100 多种大模型 API,并提供成本跟踪、负载均衡、防护规则和日志记录。一个基础 URL 即可覆盖 Bedrock、Azure、Anthropic、VertexAI 和 vLLM。GitHub 星标 56,700+。

快速概览

56.7k

GitHub star 数

1

页面浏览量

版本 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

访问

打开 LiteLLM 控制面板: http://<SERVER_IP>:4000/ui

使用以下信息登录:

  • 用户名: admin
  • 密码: LITELLM_MASTER_KEY/root/litellm/.env

获取密码:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

重要文件与目录

  • 安装路径: /root/litellm
  • Compose 文件: /root/litellm/docker-compose.yml
  • 环境文件: /root/litellm/.env
  • PostgreSQL 数据: /var/lib/docker/volumes/litellm_postgres_data

Docker 管理

查看状态:

docker ps

查看日志:

cd /root/litellm
docker compose logs -f

重启服务:

cd /root/litellm
docker compose restart

停止服务:

cd /root/litellm
docker compose down

启动服务:

cd /root/litellm
docker compose up -d

更多自托管内容

相关应用。

立即部署 LiteLLM。 起价 $2.48/月。