Komponen Terpasang
- Ollama → framework ringan dan dapat diperluas untuk menjalankan LLM secara lokal.
- Open WebUI → antarmuka web untuk berinteraksi dengan Ollama.
Direktori Instalasi
File Docker Compose untuk Open WebUI berada di:
/root/open-webui/docker-compose.yml
Direktori kerja untuk layanan systemd: /root/open-webui
Informasi Akses
Antarmuka Web:
- Open WebUI:
http://<server-ip>:8080 - UI mungkin butuh beberapa menit untuk dimulai.
- Akses lebih awal untuk menyelesaikan penyiapan awal dan membuat user admin.
Ollama API:
- Base URL:
http://127.0.0.1:11434 - Dapat diakses secara lokal di dalam server.
Penggunaan Ollama
Jalankan perintah ini langsung di terminal:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Contoh:
ollama pull llama3.1
ollama run llama3.1
Manajemen Layanan
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
