Ollama

Ollama draait LLMs lokaal op je VPS. Haal Llama 3, Mistral, Phi, Gemma en Qwen op en serveer ze met één opdracht. Zelf-gehoste AI zonder API-sleutel, REST API-compatibel met OpenAI-clients. De directste route naar privé-inferentie, gebruikt door meer dan 200.000 ontwikkelaars.