Ollama
Ollama chạy các LLM ngay trên VPS của bạn. Kéo và phục vụ Llama 3, Mistral, Phi, Gemma và Qwen chỉ với một lệnh. AI tự lưu trữ, không cần khóa API, tương thích với các client OpenAI. Cách đơn giản nhất để chạy inference riêng tư, đang được hơn 200.000 lập trình viên sử dụng.
Tổng quan
Giấy phép MIT Phiên bản Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Cài đặt đang hoạt động là dữ liệu mẫu (xem trước); số liệu thực sẽ được kết nối trước khi ra mắt.
