Ollama

Ollama esegue LLM in locale sul tuo VPS. Scarica e servi Llama 3, Mistral, Phi, Gemma e Qwen con un solo comando. AI self-hosted senza chiave API, REST API compatibile con i client OpenAI. Il modo più diretto per fare inferenza privata, usato da oltre 200.000 sviluppatori.