Установленные компоненты
- Ollama → лёгкий, расширяемый фреймворк для локального запуска LLM.
- Open WebUI → веб-интерфейс для взаимодействия с Ollama.
Директория установки
Файл Docker Compose для Open WebUI находится в:
/root/open-webui/docker-compose.yml
Рабочий каталог службы systemd: /root/open-webui
Данные для доступа
Веб-интерфейс:
- Open WebUI:
http://<server-ip>:8080 - Может потребоваться несколько минут для запуска интерфейса.
- Войдите заранее, чтобы завершить первоначальную настройку и создать пользователя-администратора.
Ollama API:
- Базовый URL:
http://127.0.0.1:11434 - Доступно локально внутри сервера.
Использование Ollama
Выполните эти команды прямо в терминале:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Пример:
ollama pull llama3.1
ollama run llama3.1
Управление сервисами
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
