ข้ามไปยังเนื้อหาหลัก
ลด 50% ทุกแพลน เวลาจำกัด เริ่มต้นที่ $2.48/mo
LiteLLM

LiteLLM

LiteLLM คือเกตเวย์ AI ที่เรียก API ของ LLM มากกว่า 100 ตัวในรูปแบบ OpenAI พร้อมการติดตามค่าใช้จ่าย การกระจายโหลด guardrail และการบันทึกล็อก URL พื้นฐานเดียวครอบคลุม Bedrock, Azure, Anthropic, VertexAI และ vLLM มีดาว GitHub มากกว่า 56,700 ดวง

ภาพรวม

56.7k

GitHub stars

1

การดูหน้า

เวอร์ชัน 1.95.1 OS Ubuntu Server 24.04 LTS Min RAM 2 GB IP IPV4,IPV6

การเข้าถึง

เปิดแดชบอร์ด LiteLLM: http://<SERVER_IP>:4000/ui

เข้าสู่ระบบด้วย:

  • ชื่อผู้ใช้: admin
  • รหัสผ่าน: LITELLM_MASTER_KEY จาก /root/litellm/.env

ดึงรหัสผ่าน:

grep '^LITELLM_MASTER_KEY=' /root/litellm/.env

ไฟล์และไดเรกทอรีที่สำคัญ

  • เส้นทางการติดตั้ง: /root/litellm
  • ไฟล์ Compose: /root/litellm/docker-compose.yml
  • ไฟล์สภาพแวดล้อม: /root/litellm/.env
  • ข้อมูล PostgreSQL: /var/lib/docker/volumes/litellm_postgres_data

การจัดการ Docker

ดูสถานะ:

docker ps

ดู logs:

cd /root/litellm
docker compose logs -f

รีสตาร์ทบริการ:

cd /root/litellm
docker compose restart

หยุดบริการ:

cd /root/litellm
docker compose down

เริ่มบริการ:

cd /root/litellm
docker compose up -d

เพิ่มเติมใน Self Hosted

แอปที่เกี่ยวข้อง

ติดตั้ง LiteLLM ได้เลยตอนนี้ เริ่มต้น $2.48/เดือน