Ollama
Ollama, LLM'leri doğrudan VPS'nizde çalıştırır. Tek bir komutla Llama 3, Mistral, Phi, Gemma ve Qwen modellerini indirip sunabilirsiniz. API anahtarı gerektirmez, OpenAI istemcileriyle REST API uyumludur. 200.000'den fazla geliştirici tarafından kullanılan bu araç, özel çıkarım için en doğrudan yoldur.
Kısaca
Lisans MIT Sürüm Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Aktif kurulumlar örnek veridir (önizleme); gerçek metrik lansmandan önce bağlanacaktır.