Ollama

Ollama uruchamia LLM lokalnie na Twoim VPS. Pobierz i udostępnij Llama 3, Mistral, Phi, Gemma i Qwen jednym poleceniem. Własny hosting AI bez klucza API, kompatybilny z klientami OpenAI dzięki REST API. Najprostszy sposób na prywatne wnioskowanie - używany przez ponad 200 000 deweloperów.