已安装的组件
- Ollama → 一个用于在本地运行 LLM 的轻量、可扩展框架。
- Open WebUI → 用于与 Ollama 交互的 Web 界面。
安装目录
Open WebUI 的 Docker Compose 文件位于:
/root/open-webui/docker-compose.yml
systemd 服务的工作目录: /root/open-webui
访问信息
网络界面:
- Open WebUI:
http://<server-ip>:8080 - UI 启动可能需要几分钟。
- 尽早访问以完成初始设置并创建管理员用户。
Ollama API:
- Base URL:
http://127.0.0.1:11434 - 可在服务器内部本地访问。
Ollama 使用
直接在终端中运行以下命令:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
例子:
ollama pull llama3.1
ollama run llama3.1
服务管理
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama