Selecciona un país para ver Cloudzy en tu idioma.
Autor
Redacción técnica interna
3 posts
Brian enseña a usar software y herramientas de forma eficaz. Es pragmático en cada uno de sus artículos y aporta valor en forma de trabajo que se puede hacer hoy mismo.
Compara LoRA, QLoRA y el full fine-tuning según VRAM, calidad y caso de uso. Descubre qué método de fine-tuning de LLM se ajusta a tu presupuesto de GPU.
Compara el uso de memoria de GGUF, GPTQ, AWQ y EXL2, desde el tamaño del archivo Q4_K_M hasta el crecimiento de la caché KV y el sobrecoste del runtime.
La memoria unificada permite que un PC de IA compacto cargue modelos de clase 235B que ninguna GPU única de 24-32 GB puede contener. Qué es, por qué funciona y por qué más grande n
