Ollama
Ollama รัน LLM บนเครื่องของคุณใน VPS เดียวกัน ดึงและให้บริการ Llama 3, Mistral, Phi, Gemma และ Qwen ด้วยคำสั่งเดียว เป็น AI ที่ host เองได้โดยไม่ต้องใช้ API key และ REST API รองรับ OpenAI clients ทางเลือกที่ง่ายที่สุดสำหรับ private inference ซึ่งนักพัฒนากว่า 200,000 คนใช้งานอยู่
เวอร์ชัน
ล่าสุด
ระบบปฏิบัติการ
Ubuntu Server 24.04 LTS เซิร์ฟเวอร์
ขั้นต่ำของ RAM
8 GB
ประเภท IP
IPV4,IPV6