Componentes Instalados
- Ollama → um framework leve e extensível para executar LLMs localmente.
- Open WebUI → interface web para interagir com o Ollama.
Diretório de Instalação
O arquivo Docker Compose do Open WebUI está localizado em:
/root/open-webui/docker-compose.yml
Diretório de trabalho do serviço systemd: /root/open-webui
Informações de Acesso
Interface Web:
- Open WebUI:
http://<server-ip>:8080 - Pode levar alguns minutos para a interface iniciar.
- Acesse logo para concluir a configuração inicial e criar um usuário administrador.
API do Ollama:
- URL base:
http://127.0.0.1:11434 - Acessível localmente dentro do servidor.
Uso do Ollama
Execute estes comandos diretamente no terminal:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Exemplo:
ollama pull llama3.1
ollama run llama3.1
Gestão de serviços
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama