メインコンテンツへスキップ
50% off 全プラン対象、期間限定。月額 $2.48/mo
LiteLLM

LiteLLM

LiteLLM は、100 を超える LLM API を OpenAI 形式で呼び出す AI ゲートウェイで、コスト追跡、負荷分散、ガードレール、ログ収集を備えています。1 つのベース URL で Bedrock、Azure、Anthropic、VertexAI、vLLM をまとめて扱えます。GitHub スター 56,700 以上。

概要

56.7k

GitHubスター

1

ページビュー

バージョン 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

アクセス

LiteLLM のダッシュボードを開きます: http://<SERVER_IP>:4000/ui

次の情報でログインします:

  • ユーザー名: admin
  • パスワード: LITELLM_MASTER_KEY から /root/litellm/.env

パスワードを取得します:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

重要なファイルとディレクトリ

  • インストールパス: /root/litellm
  • Compose ファイル: /root/litellm/docker-compose.yml
  • 環境ファイル: /root/litellm/.env
  • PostgreSQL データ: /var/lib/docker/volumes/litellm_postgres_data

Docker の管理

状態を表示:

docker ps

ログを表示:

cd /root/litellm
docker compose logs -f

サービスを再起動:

cd /root/litellm
docker compose restart

サービスを停止:

cd /root/litellm
docker compose down

サービスを起動:

cd /root/litellm
docker compose up -d

セルフホストの他の記事

関連アプリ。

今すぐ LiteLLM をデプロイする 月額2.48ドルから。