LiteLLM

LiteLLM — ШІ-шлюз, який викликає понад 100 API мовних моделей у форматі OpenAI, з обліком витрат, балансуванням навантаження, обмежувачами та логуванням. Одна базова URL охоплює Bedrock, Azure, Anthropic, VertexAI і vLLM. Понад 56 700 зірок на GitHub.

З першого погляду

56.7k

Зірки на GitHub

Перегляди сторінки

Версія 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

Розгорніть LiteLLM на VPS ← Усі додатки

Доступ

Відкрийте панель керування LiteLLM: http://<SERVER_IP>:4000/ui

Увійдіть за допомогою:

Ім'я користувача: admin
Пароль: LITELLM_MASTER_KEY від /root/litellm/.env

Отримайте пароль:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Важливі файли та директорії

Шлях встановлення: /root/litellm
Файл Compose: /root/litellm/docker-compose.yml
Файл середовища: /root/litellm/.env
Дані PostgreSQL: /var/lib/docker/volumes/litellm_postgres_data

Керування Docker

Перегляд стану:

docker ps

Переглянути логи:

cd /root/litellm
docker compose logs -f

Перезапустити служби:

cd /root/litellm
docker compose restart

Зупинити служби:

cd /root/litellm
docker compose down

Запустити служби:

cd /root/litellm
docker compose up -d

Більше в розділі Самохостинг

Схожі додатки.

9Router

Ackee

Actual

AFFiNE

Розгорніть LiteLLM зараз. Від $2,48/міс.

Розгорнути VPS Усі плани