Ollama
Ollama draait LLMs lokaal op je VPS. Haal Llama 3, Mistral, Phi, Gemma en Qwen op en serveer ze met één opdracht. Zelf-gehoste AI zonder API-sleutel, REST API-compatibel met OpenAI-clients. De directste route naar privé-inferentie, gebruikt door meer dan 200.000 ontwikkelaars.
In een oogopslag
Licentie MIT Versie Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Actieve installaties zijn voorbeeldgegevens (voorvertoning); de echte maatstaf wordt voor de lancering gekoppeld.