Aller au contenu principal
50 % de réduction toutes les offres, durée limitée. À partir de $2.48/mo
Ollama

Ollama

Ollama exécute LLMs en local sur votre VPS. Téléchargez et servez Llama 3, Mistral, Phi, Gemma et Qwen en une seule commande. AI auto-hébergée sans clé API, REST API compatible avec les clients OpenAI. La solution la plus directe pour l'inférence privée, adoptée par plus de 200 000 développeurs.

En un coup d'œil

175k

Étoiles GitHub

29

Vues de page

324

Installations actives

Licence MIT Version Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6

Les installations actives sont des données d'exemple (aperçu) ; la vraie métrique sera connectée avant le lancement.

Composants installés

  1. Ollama → un framework léger et extensible pour exécuter des LLM en local.
  2. Open WebUI → interface web pour interagir avec Ollama.

Répertoire d'installation

Le fichier Docker Compose d’Open WebUI se trouve à :

/root/open-webui/docker-compose.yml

Répertoire de travail du service systemd : /root/open-webui

Informations d'accès

Interface web :

  • Open WebUI : http://<server-ip>:8080
  • Le démarrage de l’interface peut prendre quelques minutes.
  • Accédez-y tôt pour terminer la configuration initiale et créer un utilisateur administrateur.

API Ollama :

  • URL de base : http://127.0.0.1:11434
  • Accessible localement à l’intérieur du serveur.

Utilisation d’Ollama

Exécutez ces commandes directement dans le terminal :

# Pull a model
ollama pull <model_name>

# Run a model
ollama run <model_name>

Exemple :

ollama pull llama3.1
ollama run llama3.1

Gestion des services

# Open WebUI
systemctl status open-webui
systemctl restart open-webui

# Ollama
systemctl status ollama
systemctl restart ollama

Plus en Data Science

Apps connexes.

Déployez Ollama maintenant. À partir de 2,48 $/mois.