Ollama
Ollama führt LLMs lokal auf deinem VPS aus. Llama 3, Mistral, Phi, Gemma und Qwen mit einem Befehl laden und bereitstellen. Self-hosted AI ohne API-Key, REST API-kompatibel mit OpenAI-Clients. Der direkteste Weg zu privater Inferenz – genutzt von über 200.000 Entwicklern.
Auf einen Blick
Lizenz MIT Version Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Aktive Installationen sind Beispieldaten (Vorschau); die echte Kennzahl wird vor dem Start eingebunden.
