LiteLLM

LiteLLM, 100'den fazla LLM API'sini OpenAI biçiminde çağıran; maliyet takibi, yük dengeleme, guardrail ve günlük kaydı sunan bir AI ağ geçidi. Tek bir temel URL Bedrock, Azure, Anthropic, VertexAI ve vLLM'i kapsar. 56.700'den fazla GitHub yıldızı.

Kısaca

56.7k

GitHub yıldızları

Sayfa görüntülemeleri

Sürüm 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

VPS üzerine LiteLLM dağıtın ← Tüm uygulamalar

Erişim

LiteLLM panelini açın: http://<SERVER_IP>:4000/ui

Şununla giriş yapın:

Kullanıcı adı: admin
Şifre: LITELLM_MASTER_KEY tarihinden beri hizmet vermektedir /root/litellm/.env

Parolayı alın:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

Önemli Dosyalar ve Dizinler

Kurulum yolu: /root/litellm
Compose Dosyası: /root/litellm/docker-compose.yml
Ortam Dosyası: /root/litellm/.env
PostgreSQL Verisi: /var/lib/docker/volumes/litellm_postgres_data

Docker yönetimi

Durumu görüntüleyin:

docker ps

Logları göster:

cd /root/litellm
docker compose logs -f

Hizmetleri yeniden başlatın:

cd /root/litellm
docker compose restart

Hizmetleri durdurun:

cd /root/litellm
docker compose down

Hizmetleri başlatın:

cd /root/litellm
docker compose up -d

Self Hosted'da daha fazlası

İlgili uygulamalar.

9Router

Ackee

Actual

AFFiNE

LiteLLM'yi şimdi dağıtın. 2,48 $/ay'dan başlayan fiyatlarla.

VPS dağıt Tüm planları gör