Saltar para o conteúdo principal
50% de desconto todos os planos, tempo limitado. A partir de $2.48/mo
LiteLLM

LiteLLM

O LiteLLM é um gateway de IA que chama mais de 100 APIs de LLM no formato OpenAI, com controle de custos, balanceamento de carga, guardrails e logs. Uma única URL base cobre Bedrock, Azure, Anthropic, VertexAI e vLLM. Mais de 56.700 estrelas no GitHub.

Em resumo

56.7k

Estrelas no GitHub

1

Visualizações de página

Versão 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

Acesso

Abra o painel do LiteLLM: http://<SERVER_IP>:4000/ui

Faça login com:

  • Nome de usuário: admin
  • Senha: LITELLM_MASTER_KEY de /root/litellm/.env

Obtenha a palavra-passe:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Ficheiros e diretórios importantes

  • Caminho de instalação: /root/litellm
  • Arquivo Compose: /root/litellm/docker-compose.yml
  • Arquivo de ambiente: /root/litellm/.env
  • Dados do PostgreSQL: /var/lib/docker/volumes/litellm_postgres_data

Gerenciamento do Docker

Ver o status:

docker ps

Ver registos:

cd /root/litellm
docker compose logs -f

Reiniciar os serviços:

cd /root/litellm
docker compose restart

Parar os serviços:

cd /root/litellm
docker compose down

Iniciar os serviços:

cd /root/litellm
docker compose up -d

Mais em Self-hosted

Aplicações relacionadas.

Implante LiteLLM agora. A partir de $2,48/mês.