Componentes instalados
- Ollama → un framework ligero y extensible para ejecutar LLMs localmente.
- Open WebUI → interfaz web para interactuar con Ollama.
Directorio de instalación
El archivo Docker Compose de Open WebUI se encuentra en:
/root/open-webui/docker-compose.yml
Directorio de trabajo para el servicio systemd: /root/open-webui
Información de acceso
Interfaz web:
- Open WebUI:
http://<server-ip>:8080 - La interfaz puede tardar unos minutos en iniciarse.
- Acceda pronto para completar la configuración inicial y crear un usuario administrador.
Ollama API:
- URL base:
http://127.0.0.1:11434 - Accesible localmente dentro del servidor.
Uso de Ollama
Ejecute estos comandos directamente en la terminal:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Ejemplo:
ollama pull llama3.1
ollama run llama3.1
Gestión de servicios
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
