Saltar para o conteúdo principal
50% de desconto todos os planos, tempo limitado. A partir de $2.48/mo
Ollama

Ollama

Ollama executa LLMs localmente no seu VPS. Baixe e sirva Llama 3, Mistral, Phi, Gemma e Qwen com um único comando. AI self-hosted sem chave de API, REST API compatível com clientes OpenAI. O caminho mais direto para inferência privada, usado por mais de 200.000 desenvolvedores.

Em resumo

175k

Estrelas no GitHub

29

Visualizações de página

324

Instalações ativas

Licença MIT Versão Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6

As instalações ativas são dados de amostra (pré-visualização); a métrica real será conectada antes do lançamento.

Componentes Instalados

  1. Ollama → um framework leve e extensível para executar LLMs localmente.
  2. Open WebUI → interface web para interagir com o Ollama.

Diretório de Instalação

O arquivo Docker Compose do Open WebUI está localizado em:

/root/open-webui/docker-compose.yml

Diretório de trabalho do serviço systemd: /root/open-webui

Informações de Acesso

Interface Web:

  • Open WebUI: http://<server-ip>:8080
  • Pode levar alguns minutos para a interface iniciar.
  • Acesse logo para concluir a configuração inicial e criar um usuário administrador.

API do Ollama:

  • URL base: http://127.0.0.1:11434
  • Acessível localmente dentro do servidor.

Uso do Ollama

Execute estes comandos diretamente no terminal:

# Pull a model
ollama pull <model_name>

# Run a model
ollama run <model_name>

Exemplo:

ollama pull llama3.1
ollama run llama3.1

Gestão de serviços

# Open WebUI
systemctl status open-webui
systemctl restart open-webui

# Ollama
systemctl status ollama
systemctl restart ollama

Mais em Ciência de Dados

Aplicações relacionadas.

Instale Ollama agora. A partir de $2,48/mês.