ส่วนประกอบที่ติดตั้ง
- Ollama → เฟรมเวิร์กน้ำหนักเบาที่ขยายได้สำหรับรัน LLMs ในเครื่อง
- Open WebUI → เว็บอินเทอร์เฟซสำหรับโต้ตอบกับ Ollama
ไดเรกทอรีการติดตั้ง
ไฟล์ Docker Compose สำหรับ Open WebUI อยู่ที่:
/root/open-webui/docker-compose.yml
ไดเรกทอรีทำงานสำหรับบริการ systemd: /root/open-webui
ข้อมูลการเข้าใช้งาน
อินเทอร์เฟซเว็บ:
- Open WebUI:
http://<server-ip>:8080 - อาจใช้เวลาสองสามนาทีกว่า UI จะเริ่มทำงาน
- เข้าถึงแต่เนิ่นๆ เพื่อทำการตั้งค่าเริ่มต้นและสร้างผู้ใช้ผู้ดูแลระบบ
Ollama API:
- Base URL:
http://127.0.0.1:11434 - เข้าถึงได้ในเครื่องภายในเซิร์ฟเวอร์
การใช้งาน Ollama
รันคำสั่งเหล่านี้โดยตรงใน terminal:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
ตัวอย่าง:
ollama pull llama3.1
ollama run llama3.1
การจัดการบริการ
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
