Các Thành Phần Đã Cài Đặt
- Ollama → một framework nhẹ, có thể mở rộng để chạy các LLM cục bộ.
- Open WebUI → giao diện web để tương tác với Ollama.
Thư mục cài đặt
Tệp Docker Compose cho Open WebUI nằm tại:
/root/open-webui/docker-compose.yml
Thư mục làm việc cho dịch vụ systemd: /root/open-webui
Thông tin truy cập
Giao diện Web:
- Open WebUI:
http://<server-ip>:8080 - UI có thể mất vài phút để khởi động.
- Truy cập sớm để hoàn tất thiết lập ban đầu và tạo một người dùng quản trị.
Ollama API:
- Base URL:
http://127.0.0.1:11434 - Có thể truy cập cục bộ bên trong máy chủ.
Cách dùng Ollama
Chạy các lệnh này trực tiếp trong terminal:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Ví dụ:
ollama pull llama3.1
ollama run llama3.1
Quản lý dịch vụ
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
