Ollama
Ollama запускає LLM локально на вашому VPS. Завантажте і обслуговуйте Llama 3, Mistral, Phi, Gemma і Qwen однією командою. Власний AI-хостинг без API ключа, REST API сумісний з OpenAI клієнтами. Найпростіший шлях до приватного інференсу — понад 200 000 розробників уже використовують.
З першого погляду
Ліцензія MIT Версія Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Активні інсталяції є зразковими даними (попередній перегляд); реальна метрика буде підключена до запуску.
