Ga naar hoofdinhoud
50% korting alle plannen, beperkte tijd. Vanaf $2.48/mo
LiteLLM

LiteLLM

LiteLLM is een AI-gateway die meer dan 100 LLM-API's in OpenAI-formaat aanroept, met kostenregistratie, load balancing, guardrails en logging. Eén basis-URL dekt Bedrock, Azure, Anthropic, VertexAI en vLLM. Meer dan 56.700 GitHub-sterren.

In een oogopslag

56.7k

GitHub-sterren

1

Paginaweergaven

Versie 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

Toegang

Open het LiteLLM-dashboard: http://<SERVER_IP>:4000/ui

Meld u aan met:

  • Gebruikersnaam: admin
  • Wachtwoord: LITELLM_MASTER_KEY van /root/litellm/.env

Haal het wachtwoord op:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Belangrijke bestanden en mappen

  • Installatiepad: /root/litellm
  • Compose-bestand: /root/litellm/docker-compose.yml
  • Omgevingsbestand: /root/litellm/.env
  • PostgreSQL-gegevens: /var/lib/docker/volumes/litellm_postgres_data

Docker-beheer

Status bekijken:

docker ps

Logs bekijken:

cd /root/litellm
docker compose logs -f

Services opnieuw starten:

cd /root/litellm
docker compose restart

Services stoppen:

cd /root/litellm
docker compose down

Services starten:

cd /root/litellm
docker compose up -d

Meer in Self-hosted

Gerelateerde apps.

Deploy LiteLLM nu. Vanaf $2,48/mnd.