Ollama
Ollama uruchamia LLM lokalnie na Twoim VPS. Pobierz i udostępnij Llama 3, Mistral, Phi, Gemma i Qwen jednym poleceniem. Własny hosting AI bez klucza API, kompatybilny z klientami OpenAI dzięki REST API. Najprostszy sposób na prywatne wnioskowanie - używany przez ponad 200 000 deweloperów.
Na pierwszy rzut oka
Licencja MIT Wersja Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Aktywne instalacje to dane przykładowe (podgląd); prawdziwa metryka zostanie podłączona przed uruchomieniem.
