メインコンテンツへスキップ
50% off 全プラン対象、期間限定。月額 $2.48/mo
Ollama

Ollama

Ollama は LLM を VPS 上でローカル実行できるツールです。Llama 3、Mistral、Phi、Gemma、Qwen をコマンド一発で取得・配信。API キー不要のセルフホスト AI で、OpenAI クライアントとも REST API 互換。プライベート推論への最短ルートとして、200,000 人以上の開発者が利用しています。

概要

175k

GitHubスター

31

ページビュー

ライセンス MIT バージョン Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6

インストール済みコンポーネント

  1. Ollama → LLM をローカルで実行するための軽量で拡張可能なフレームワーク。
  2. Open WebUI → Ollama を操作するための Web インターフェース。

インストールディレクトリ

Open WebUI 用の Docker Compose ファイルは次の場所にあります:

/root/open-webui/docker-compose.yml

systemd サービスの作業ディレクトリ: /root/open-webui

アクセス情報

Webインターフェース:

  • Open WebUI: http://<server-ip>:8080
  • UI が起動するまで数分かかる場合があります。
  • 早めにアクセスして初期セットアップを完了し、管理者ユーザーを作成します。

Ollama API:

  • ベース URL: http://127.0.0.1:11434
  • サーバー内でローカルにアクセスできます。

Ollama の使い方

これらのコマンドをターミナルで直接実行します:

# Pull a model
ollama pull <model_name>

# Run a model
ollama run <model_name>

例:

ollama pull llama3.1
ollama run llama3.1

サービス管理

# Open WebUI
systemctl status open-webui
systemctl restart open-webui

# Ollama
systemctl status ollama
systemctl restart ollama

データサイエンスの関連記事

関連アプリ。

今すぐ Ollama をデプロイする。 月額2.48ドルから。