Telepített összetevők
- Ollama → könnyű, bővíthető keretrendszer LLM-ek helyi futtatásához.
- Open WebUI → webes felület az Ollama-val való interakcióhoz.
Telepítési könyvtár
Az Open WebUI Docker Compose fájlja itt található:
/root/open-webui/docker-compose.yml
A systemd szolgáltatás munkakönyvtára: /root/open-webui
Hozzáférési Információ
Webes felület:
- Open WebUI:
http://<server-ip>:8080 - Néhány percbe telhet, amíg a felület elindul.
- Lépj be korán a kezdeti beállítás befejezéséhez és egy adminisztrátori felhasználó létrehozásához.
Ollama API:
- Alap URL:
http://127.0.0.1:11434 - Helyben elérhető a szerveren belül.
Ollama használata
Futtasd ezeket a parancsokat közvetlenül a terminálban:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Példa:
ollama pull llama3.1
ollama run llama3.1
Szolgáltatáskezelés
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
