インストール済みコンポーネント
- Ollama → LLM をローカルで実行するための軽量で拡張可能なフレームワーク。
- Open WebUI → Ollama を操作するための Web インターフェース。
インストールディレクトリ
Open WebUI 用の Docker Compose ファイルは次の場所にあります:
/root/open-webui/docker-compose.yml
systemd サービスの作業ディレクトリ: /root/open-webui
アクセス情報
Webインターフェース:
- Open WebUI:
http://<server-ip>:8080 - UI が起動するまで数分かかる場合があります。
- 早めにアクセスして初期セットアップを完了し、管理者ユーザーを作成します。
Ollama API:
- ベース URL:
http://127.0.0.1:11434 - サーバー内でローカルにアクセスできます。
Ollama の使い方
これらのコマンドをターミナルで直接実行します:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
例:
ollama pull llama3.1
ollama run llama3.1
サービス管理
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama