Ollama

Ollama запускає LLM локально на вашому VPS. Завантажте і обслуговуйте Llama 3, Mistral, Phi, Gemma і Qwen однією командою. Власний AI-хостинг без API ключа, REST API сумісний з OpenAI клієнтами. Найпростіший шлях до приватного інференсу — понад 200 000 розробників уже використовують.