설치된 구성 요소
- Ollama → 로컬에서 LLM을 실행하기 위한 가볍고 확장 가능한 프레임워크.
- Open WebUI → Ollama와 상호작용하기 위한 웹 인터페이스.
설치 디렉토리
Open WebUI용 Docker Compose 파일 위치:
/root/open-webui/docker-compose.yml
systemd 서비스의 작업 디렉터리: /root/open-webui
접근 정보
웹 인터페이스:
- Open WebUI:
http://<server-ip>:8080 - UI가 시작되기까지 몇 분 정도 걸릴 수 있습니다.
- 초기 설정을 완료하고 관리자 사용자를 생성하려면 일찍 접근하세요.
Ollama API:
- 기본 URL:
http://127.0.0.1:11434 - 서버 내부에서 로컬로 접근 가능합니다.
Ollama 사용법
터미널에서 이 명령들을 직접 실행하세요:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
예시:
ollama pull llama3.1
ollama run llama3.1
서비스 관리
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
