Aller au contenu principal
50 % de réduction toutes les offres, durée limitée. À partir de $2.48/mo
LiteLLM

LiteLLM

LiteLLM est une passerelle IA qui appelle plus de 100 API de LLM au format OpenAI, avec suivi des coûts, répartition de charge, garde-fous et journalisation. Une seule URL de base couvre Bedrock, Azure, Anthropic, VertexAI et vLLM. Plus de 56 700 étoiles GitHub.

En un coup d'œil

Version 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

Accès

Ouvrez le tableau de bord LiteLLM : http://<SERVER_IP>:4000/ui

Connectez-vous avec :

  • Nom d'utilisateur : admin
  • Mot de passe : LITELLM_MASTER_KEY à partir de /root/litellm/.env

Récupérez le mot de passe :

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Fichiers et répertoires importants

  • Chemin d'installation : /root/litellm
  • Fichier Compose : /root/litellm/docker-compose.yml
  • Fichier d'environnement : /root/litellm/.env
  • Données PostgreSQL : /var/lib/docker/volumes/litellm_postgres_data

Gestion de Docker

Afficher l'état :

docker ps

Voir les logs :

cd /root/litellm
docker compose logs -f

Redémarrer les services :

cd /root/litellm
docker compose restart

Arrêter les services :

cd /root/litellm
docker compose down

Démarrer les services :

cd /root/litellm
docker compose up -d

Plus dans Auto-hébergé

Apps connexes.

Déployer LiteLLM maintenant. À partir de 2,48 $/mois.