Ollama

Ollama รัน LLM บนเครื่องของคุณใน VPS เดียวกัน ดึงและให้บริการ Llama 3, Mistral, Phi, Gemma และ Qwen ด้วยคำสั่งเดียว เป็น AI ที่ host เองได้โดยไม่ต้องใช้ API key และ REST API รองรับ OpenAI clients ทางเลือกที่ง่ายที่สุดสำหรับ private inference ซึ่งนักพัฒนากว่า 200,000 คนใช้งานอยู่

เวอร์ชัน

ล่าสุด