Ollama

Ollama menjalankan LLM secara lokal di VPS Anda. Tarik dan sajikan Llama 3, Mistral, Phi, Gemma, dan Qwen dengan satu perintah. AI yang dihosting sendiri tanpa kunci API, REST API kompatibel dengan klien OpenAI. Jalur paling sederhana menuju inferensi pribadi, digunakan oleh 200.000+ pengembang.