LiteLLM

LiteLLM ist ein KI-Gateway, das über 100 LLM-APIs im OpenAI-Format aufruft, mit Kostenerfassung, Lastverteilung, Guardrails und Logging. Eine Basis-URL deckt Bedrock, Azure, Anthropic, VertexAI und vLLM ab. Über 56.700 GitHub-Sterne.

Auf einen Blick

56.7k

GitHub-Sterne

Seitenaufrufe

Version 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

LiteLLM auf einem VPS deployen ← Alle Apps

Zugriff

Öffnen Sie das LiteLLM-Dashboard: http://<SERVER_IP>:4000/ui

Melden Sie sich an mit:

Benutzername: admin
Passwort: LITELLM_MASTER_KEY ab /root/litellm/.env

Rufen Sie das Passwort ab:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Wichtige Dateien und Verzeichnisse

Installationspfad: /root/litellm
Compose-Datei: /root/litellm/docker-compose.yml
Umgebungsdatei: /root/litellm/.env
PostgreSQL-Daten: /var/lib/docker/volumes/litellm_postgres_data

Docker-Verwaltung

Status anzeigen:

docker ps

Logs ansehen:

cd /root/litellm
docker compose logs -f

Dienste neu starten:

cd /root/litellm
docker compose restart

Dienste stoppen:

cd /root/litellm
docker compose down

Dienste starten:

cd /root/litellm
docker compose up -d

Mehr zu Self-Hosted

LiteLLM jetzt deployen. Ab 2,48 $/Monat.

VPS deployen Alle Tarife ansehen

LiteLLM

Verwandte Apps.

9Router

Ackee

Actual

AFFiNE

LiteLLM jetzt deployen. Ab 2,48 $/Monat.