Ollama
Ollama spouští LLMy lokálně na vašem VPS. Stáhněte a provozujte Llama 3, Mistral, Phi, Gemma a Qwen jediným příkazem. AI na vlastním serveru bez API klíče, REST API kompatibilní s OpenAI klienty. Nejpřímější cesta k soukromé inferenci, kterou používá přes 200 000 vývojářů.
Na první pohled
Licence MIT Verze Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Počet aktivních instalací jsou vzorová data (náhled); skutečná metrika bude zapojena před spuštěním.