Saltar al contenido principal
50% de descuento todos los planes, tiempo limitado. Desde $2.48/mo
LiteLLM

LiteLLM

LiteLLM es una pasarela de IA que llama a más de 100 API de LLM en formato OpenAI, con seguimiento de costes, balanceo de carga, barreras de seguridad y registro. Una sola URL base cubre Bedrock, Azure, Anthropic, VertexAI y vLLM. Más de 56.700 estrellas en GitHub.

En resumen

56.7k

Estrellas en GitHub

1

Vistas de página

Versión 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

Acceso

Abre el panel de LiteLLM: http://<SERVER_IP>:4000/ui

Inicia sesión con:

  • Nombre de usuario: admin
  • Contraseña: LITELLM_MASTER_KEY desde /root/litellm/.env

Recupera la contraseña:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Archivos y directorios importantes

  • Ruta de instalación: /root/litellm
  • Archivo Compose: /root/litellm/docker-compose.yml
  • Archivo de entorno: /root/litellm/.env
  • Datos de PostgreSQL: /var/lib/docker/volumes/litellm_postgres_data

Gestión de Docker

Ver el estado:

docker ps

Ver registros:

cd /root/litellm
docker compose logs -f

Reiniciar los servicios:

cd /root/litellm
docker compose restart

Detener los servicios:

cd /root/litellm
docker compose down

Iniciar los servicios:

cd /root/litellm
docker compose up -d

Más en Autoalojado

Apps relacionadas.

Desplegar LiteLLM ahora. Desde $2,48/mes.