Odysseus vs Ollama: 실제로 무엇이 다른가 (그리고 왜 둘 다 필요한가)

사람들은 마치 둘 중 하나를 골라야 하는 것처럼 "Odysseus vs Ollama"를 검색합니다. 그건 잘못된 질문이지만, 왜 그런 질문이 나왔는지는 쉽게 이해할 수 있습니다. Odysseus 는 2026년 5월 31일 출시 이후 입소문을 탔고, 출시 관련 보도의 상당수가 이를 "ChatGPT 대안"으로 소개하면서 정작 중요한 부분, 즉 어느 계층에 위치하는지는 건너뛰었습니다.

짧게 답하자면 이렇습니다. Odysseus는 워크스페이스입니다. 채팅 UI, 에이전트, 리서치 도구가 여기 있습니다. Ollama는 그것이 통신하는 엔진, 즉 모델을 실행하는 존재입니다. 둘은 경쟁 제품이 아닙니다. 같은 건물의 두 층입니다.

저는 이 둘을 연결해 함께 실행해 봤고, 그래서 이 글의 나머지 부분은 각각이 무엇을 하는지, 둘 다 필요한지, 그리고 이 스택을 직접 호스팅하려면 무엇이 필요한지에 관한 내용입니다.

요약

• Odysseus는 셀프 호스팅 AI 워크스페이스이고, Ollama는 로컬 추론 엔진입니다. 둘은 경쟁자가 아닙니다. Odysseus는 앱이 데이터베이스를 호출하는 것과 똑같은 방식으로 Ollama의 API를 호출해 모델 응답을 받습니다.
• 아마 둘 다 필요할 것입니다. Odysseus는 경험(채팅, 에이전트, 딥 리서치, 이메일, 노트)을 제공하고, Ollama는 실제 언어 모델을 로컬에서 비공개로 실행합니다.
• Ollama는 가장 손쉬운 기본값일 뿐, 유일한 백엔드는 아닙니다. Odysseus는 다른 로컬 추론 서버나 OpenAI, Anthropic, OpenRouter 같은 클라우드 API를 가리킬 수도 있습니다. 절충점은 단순합니다. 로컬 백엔드는 추론을 내 컴퓨터에 남겨 두고, 클라우드 API는 그것을 외부로 옮깁니다.
• 모델이 하드웨어를 결정합니다. CPU VPS는 7B 모델을 실행합니다. 13B 이상이면 GPU가 필요합니다. 이는 시스템 RAM이 아니라 VRAM의 문제입니다.

Odysseus란 무엇인가

Odysseus를 실행하면 다음 주소에서 채팅 창이 나타납니다: localhost:7000. 하지만 채팅은 그중 가장 작은 부분입니다. 그 창 뒤에는 완전한 워크스페이스가 있습니다. MCP 도구 실행과 파일 및 셸 접근이 가능한 자율 에이전트, 여러 단계의 웹 리서치를 수행하고 보고서를 작성하는 딥 리서치 모드, AI 작성 기능이 있는 Markdown 문서 편집기, IMAP/SMTP 받은편지함을 분류하는 이메일 어시스턴트, 그리고 노트, 태스크, CalDAV 캘린더까지 있습니다. 하드웨어에 따라 모델과 다운로드 경로를 추천하는 Model Cookbook이 있고, 스스로 함께 배포하는 SearXNG 컨테이너에서 실행되는 내장 웹 검색도 있습니다.

Odysseus가 하지 아닙니다 않는 일은 모델을 실행하는 것입니다. 그 모든 기능(어떤 도구를 호출할지 결정하는 에이전트, 페이지를 요약하는 리서치 어시스턴트, 태그를 고르는 이메일 분류)은 텍스트를 생성하는 모델로 어딘가 다른 곳에 보내지는 요청입니다. Odysseus는 오케스트레이션합니다. 추론은 하지 않습니다.

그래서 일반적인 배포는 약 네 개의 Docker 컨테이너(벡터 스토어용 ChromaDB, 검색용 SearXNG, 알림용 ntfy, 그리고 메인 Odysseus 이미지)로 이루어지며, 이 중 어느 것도 언어 모델이 아닙니다. 모델은 Odysseus가 가리키는 별도 프로세스에 존재합니다.

라이선스는 AGPL-3.0-or-later인데, 이는 들리는 것보다 더 중요하며 나중에 다시 다루겠습니다. 도구 사용에 관한 한 가지 참고 사항: 에이전트 기능에는 함수 호출이 가능한 모델이 권장되므로, 무엇을 실행할지 고를 때 이 점을 염두에 두세요.

Ollama가 하는 일, 그리고 왜 다른 계층인가

Ollama는 실제로 언어 모델을 메모리에 로드하고 실행하는 프로세스입니다. llama.cpp 백엔드 위에 구축된 로컬 추론 엔진이며, Odysseus에게 유용한 이유는 다음을 노출한다는 점입니다: OpenAI 호환 REST API. Odysseus는 어떤 앱이 데이터베이스와 통신하는 것과 정확히 같은 방식으로 그 API와 통신합니다. 요청을 보내고 응답을 받되, 내부에서 작업이 어떻게 처리되었는지는 신경 쓰지 않습니다.

이 글을 작성하는 시점에서 최신 Ollama 릴리스는 v0.31.1 (June 30, 2026)이며, MIT 라이선스이고, 다음 위치의 방대한 모델 라이브러리에서 가져옵니다: ollama.com/library: Llama 3, Mistral, Phi-3, Gemma, Qwen, 그 외 다수를 명령 한 줄로 받을 수 있습니다. UI도, 에이전트도, 워크스페이스도 없습니다. 모델을 실행하고 API 호출에 응답합니다. 그게 전부입니다.

짚고 넘어갈 가치가 있는 한 가지가 있는데, 사람들이 자주 헷갈리기 때문입니다. 무료 오픈소스 Ollama 로컬 러너(이 글 전체가 다루는 MIT 라이선스 제품)는 Ollama의 호스팅 클라우드 옵션과 다릅니다. 누군가 "Ollama"에 대한 월 요금을 제시한다면, 그건 대개 로컬 러너가 아니라 호스팅 클라우드 사용량이나 유료 클라우드 등급을 말하는 것입니다. 직접 자신의 컴퓨터에 설치하는 러너는 비용이 들지 않습니다. 유일한 비용은 그것을 실행하는 머신뿐입니다.

Ollama 자체와, GUI 우선 도구와 어떻게 비교되는지 더 깊이 알고 싶다면, 다음의 전체 글을 준비해 두었습니다: Ollama vs LM Studio 비교 그 비교를 다룹니다.

핵심 요점: Ollama는 앱이 아니라 서버입니다. 모델을 실행하고 API 호출에 응답합니다. 경험 계층은 다른 누군가의 몫입니다.

그래서 둘 다 필요할까요?

두 도구를 기능별로 나란히 놓고 보면 한 가지를 알아차리게 됩니다. 각 열은 대부분 상대의 빈칸이라는 것입니다. 둘은 거의 겹치지 않습니다.

그래서 간단한 답은 이렇습니다. 로컬의 비공개 추론을 갖춘 완전한 AI 워크스페이스를 원한다면 둘 다 실행하면 됩니다. 경험은 Odysseus, 모델은 Ollama입니다. 그것이 표준 구성이며, 출시 튜토리얼들이 사람들에게 안내하는 구성입니다.

Odysseus를 다른 추론 백엔드로 가리키게 한다면 Ollama는 선택 사항입니다. 그건 OpenAI, Anthropic, OpenRouter 같은 클라우드 API가 될 수도 있고, llama.cpp, LM Studio, vLLM 같은 또 다른 로컬 엔진이 될 수도 있습니다. 절충점은 추론이 어디서 일어나는지에 달려 있습니다. 로컬 백엔드는 프롬프트를 내 컴퓨터에 남겨 두는 반면, 클라우드 API는 그것을 외부로 옮기고 대개 구독료나 사용량 기반 요금을 다시 끌어들입니다.

핵심 요점: 로컬 추론을 위해서는 추론 백엔드가 필요합니다. Ollama가 가장 손쉬운 기본값이지만, 유일한 로컬 옵션은 아닙니다.

둘을 어떻게 연결하는가 (사람들이 막히는 부분)

연결 자체는 사소합니다. Odysseus에게 Ollama의 OpenAI 호환 엔드포인트가 어디 있는지 알려 주면 그게 전부입니다. 문제는, 그리고 이것이 사람들이 막히는 유일한 지점인데, Docker 네트워킹이 까다로운 탓에 "어디 있는지"가 실행 방식에 따라 달라진다는 점입니다.

엔드포인트에는 다음 접미사가 필요합니다: /v1 접미사입니다 (그것이 구체적으로 OpenAI 호환 경로입니다). 가리키는 위치는 다음과 같습니다:

• 네이티브 설치, 같은 머신: http://localhost:11434/v1
• macOS 또는 Windows의 Docker: http://host.docker.internal:11434/v1
• Linux의 Docker: http://172.17.0.1:11434/v1, 또는 다음을 추가하세요 extra_hosts: ["host.docker.internal:host-gateway"] compose 파일에

그리고 Odysseus가 컨테이너 안에서 Ollama에 도달할 때, Ollama는 루프백뿐 아니라 모든 인터페이스에서 수신 대기하고 있어야 합니다. 다음을 설정하세요: OLLAMA_HOST=0.0.0.0:11434 (그리고 OLLAMA_ORIGINS=*), 그렇지 않으면 연결이 아예 이루어지지 않습니다.

프로 팁: macOS에서는 Metal GPU 가속이 Docker를 통과하지 못합니다. Mac에서 GPU 가속 추론을 원한다면 Odysseus를 컨테이너가 아니라 네이티브로 실행하세요. 그렇지 않으면 어떤 하드웨어를 갖고 있든 CPU에 갇히게 됩니다.

대략 이런 모양입니다. 이 글은 전체 단계별 배포 가이드가 아닙니다. 여기서의 요점은 다음을 이해하는 것입니다: 왜 연결이 호스트에 따라 달라지는지, 그리고 첫 시도에 안 될 때 어디를 봐야 하는지 말입니다.

준비됐을까? 입소문 난 5주 된 프로젝트 읽어 보기

Odysseus는 약 80,800개의 스타에 대해 열려 있는 이슈가 대략 800개, 열려 있는 PR이 785개 있습니다. 이것을 올바르게 해석하세요. 망가진 프로젝트가 아니라, 관리자들이 밀려드는 기여를 흡수할 수 있는 속도보다 더 빨리 입소문을 탄 프로젝트입니다. 무언가가 처음 며칠 만에 30,000개 이상의 스타에 도달하고 5주 안에 80k에 이르면, 코드 품질과 무관하게 이슈 트래커는 그렇게 보이기 마련입니다. 그건 부패의 신호가 아니라 입소문의 신호입니다.

그렇긴 해도, 5주밖에 안 된 프로젝트이고 그것이 곳곳에서 드러납니다. 사용자들은 시작 시 느린 stdio MCP 도구 호출을 취소해 버릴 수 있는 짧은 하드코딩된 타임아웃을 보고했습니다. 떠도는 비ASCII 인코딩 버그들도 있습니다. 그리고 아직 대규모 커뮤니티 보안 감사가 없었는데, 이 정도로 도달 범위가 넓은 도구라면 의존하기 전에 알아 둘 가치가 있습니다.

그 HN 스레드에서 더 날카로운 반박은 거친 부분이 아닙니다. 바로 "이게 Open WebUI, LibreChat, AnythingLLM이 이미 하지 않는 무엇을 하는가?"입니다. 그 질문은 다음에서 반복해서 나왔습니다: 출시에 관한 Hacker News 스레드, 여기에 더해 AI 보조로 작성된 코드베이스 품질에 대한 회의론과, 무명 개발자의 동등한 도구는 결코 얻지 못했을 스타를 유명 프로젝트가 끌어모으는 것에 대한 불만도 있었습니다.

차별화 질문은 응원이 아니라 솔직한 답을 받을 자격이 있습니다. 두 가지가 Odysseus를 구분 짓습니다. 첫째, 라이선스입니다. Odysseus는 AGPL-3.0-or-later인 반면, Open WebUI는 아무리 오픈되어 있어도 상표권과 브랜딩 제한 이 있어 브랜딩을 제거하거나 변경하지 못하게 막습니다. 이는 바로 그 같은 HN 스레드에서 나온 지적입니다. 진정으로 제약 없는 FOSS 라이선스가 당신에게 중요하다면, 그건 실질적인 차이입니다. 둘째, 범위입니다. 채팅 위에 Odysseus는 통합된 이메일, 노트, 캘린더와 하드웨어를 인식하는 Model Cookbook을 묶어 제공하는 반면, 대안들은 대부분 채팅과 문서에서 멈춥니다. 그 묶음이 가치 있는지는 당신이 그 조각들을 사용할지에 달려 있습니다. Open WebUI, LibreChat, AnythingLLM은 모두 정당한 선택지입니다. 이건 완승이 아닙니다.

정직하게 저울질해야 할 한 가지가 더 있습니다. 공격 표면이 넓다는 것입니다. Odysseus는 웹을 탐색하고, 에이전트를 통해 셸 명령을 실행하고, MCP 도구를 호출하고, IMAP으로 당신의 이메일에 접근할 수 있습니다. 이것을 커뮤니티가 지적한 프롬프트 인젝션 우려가 있는, 젊고 부분적으로 AI가 생성한 코드베이스에 붙이면, 많은 일을 할 수 있는 도구가 되는데 여기에는 누군가 잘못된 입력을 먹였을 때 당신이 의도하지 않은 일도 포함됩니다. 그것이 이 도구를 피할 이유는 아닙니다. 그것을 샌드박스에 격리하고, 더 검증될 때까지 민감한 것에서 떼어 놓고, 무엇을 실행하고 있는지 알아 둘 이유입니다.

VPS에서 스택 실행하기

먼저 노트북에서 Odysseus와 Ollama를 시험해 보세요. 감을 잡는 데는 그걸로 충분합니다. 하지만 이것에 의존하고 싶어지는 순간, 노트북은 더 이상 답이 아닙니다. 당신의 이메일을 확인하는 에이전트, 언제든 접근하고 싶은 리서치 어시스턴트, 휴대폰에서 여는 채팅 워크스페이스, 이 모든 것에는 항상 켜져 있고 항상 접근 가능한 머신이 필요합니다. 그게 Linux VPS입니다.

그런 다음 모델이 크기를 결정하는데, 이것이 사람들이 거꾸로 아는 하나의 사양이므로 솔직하게 말하겠습니다: 시스템 RAM은 큰 모델을 잘 실행하지 못합니다. VRAM이 합니다. 8~16 GB의 시스템 RAM을 갖춘 CPU 전용 VPS는 Ollama와 작은 7B~8B 모델을 실행할 수 있으며, 느리지만 저동시성 개인 용도로는 쓸 만합니다. 13B~34B 모델로 넘어가면 GPU가 훨씬 더 타당해지고, 24 GB VRAM 카드가 많은 양자화된 중형 모델에 실용적으로 편안한 영역입니다. Q4의 70B 모델은 완전히 다른 급입니다. 대략 48 GB+ 의 VRAM을 예상하거나, 컨텍스트를 위한 더 깨끗한 여유 공간과 더 적은 타협을 원한다면 80 GB 카드를 예상하세요. 70B를 16 GB의 시스템 RAM에 로드하는 것은 단지 느린 정도가 아니라, 쓸 만한 구성으로서는 잘못된 목표입니다.

VPS에서 Ollama를 실행한다면, 수동 설치를 건너뛰는 가장 빠른 방법은 Cloudzy의 원클릭 Ollama 마켓플레이스 앱입니다. 이것이 엔진을 대신 세워 주므로 바로 모델을 받는 단계로 넘어가고, 필요한 모델 급에 맞춰 VPS 크기를 정하면 됩니다(7B에는 표준 Linux VPS, 13B 이상에는 GPU 인스턴스). GPU 쪽에서 짚어 둘 점: 가용성은 지역 제약이 있어서 전체 GPU 범위가 모든 데이터센터에 있지는 않습니다. 약정하기 전에 어느 위치에 원하는 카드가 있는지 확인하세요. Odysseus는 여전히 Docker로 직접 설치해야 합니다. 스택의 워크스페이스 절반에 대한 일회성 설치 비용입니다.

핵심 요점: 워크스페이스 계층은 가볍고, 모델 계층이 당신의 VPS 크기를 결정합니다. 7B에는 CPU, 13B 이상에는 GPU입니다.

자주 묻는 질문

Odysseus에 Ollama가 필요한가?

엄밀히는 아닙니다. Odysseus는 클라우드 API 백엔드(OpenAI, Anthropic, OpenRouter)나 llama.cpp, LM Studio, vLLM 같은 다른 로컬 엔진을 통해 추론을 실행할 수 있습니다. Ollama는 무료의 로컬 비공개 추론을 원할 때의 표준 선택이지만, 요구 사항이 아니라 기본값입니다.

Odysseus는 Ollama의 대안인가?

아닙니다. 둘은 스택의 서로 다른 계층입니다. Odysseus는 워크스페이스이자 앱(채팅, 에이전트, 리서치, 이메일)이고, Ollama는 언어 모델을 실행하기 위해 그것이 호출하는 모델 서버입니다. Odysseus는 API를 통해 Ollama와 통신하므로, 둘은 경쟁하기보다 함께 작동합니다.

Odysseus를 Ollama에 어떻게 연결하나?

Odysseus를 Ollama의 OpenAI 호환 엔드포인트로 가리키게 하세요. 여기에는 다음이 필요합니다: /v1 접미사입니다. 정확한 호스트는 당신의 구성에 따라 다릅니다: http://localhost:11434/v1 네이티브 설치의 경우, http://host.docker.internal:11434/v1 macOS/Windows의 Docker의 경우, 그리고 Linux의 Docker의 경우 host-gateway 주소입니다. Ollama에는 또한 다음이 필요합니다: OLLAMA_HOST=0.0.0.0:11434 컨테이너에서 접근할 때 말입니다.

Ollama는 무료인가?

예, 오픈소스 로컬 러너는 무료이며 MIT 라이선스입니다. Ollama에는 유료 Pro 및 Max 등급을 포함한 호스팅 클라우드 옵션도 있지만, 그것은 이 글이 주로 다루는 로컬 러너와는 별개입니다. 자신의 머신이나 VPS에 설치하는 러너는 비용이 들지 않습니다. 유일한 비용은 그것을 실행하는 하드웨어뿐입니다.

Odysseus를 실행해도 안전한가?

공격 표면이 넓고(셸 및 에이전트 실행, MCP 도구 호출, 이메일 IMAP 접근), 아직 대규모 보안 감사가 없는 젊고 부분적으로 AI가 생성한 코드베이스입니다. 실행할 수는 있지만 그에 맞게 다루세요. 샌드박스에 격리하고, 성숙할 때까지 민감한 계정에서 멀리하고, 프롬프트 인젝션 위험을 주시하세요.

요약하자면

핵심은 바로 이 사고 모형입니다. Odysseus와 Ollama는 대결이 아니라 스택입니다. 워크스페이스가 위에 얹히고, 추론 엔진이 아래에서 실행되며, 워크스페이스가 API를 통해 엔진을 호출합니다. 당신이 고르는 모델이 하드웨어 크기를 정하므로, 무엇 위에서 실행할지 정하기 전에 무엇을 실행하고 싶은지 정하세요.