Autor

Brian

Staff Technical Writer

2 posts

Brian educates on using software and tools effectively. He is pragmatic in each of his articles and provides value in terms of work that can actually be done today.

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

AI i uczenie maszynowe

GGUF, GPTQ, AWQ, EXL2: Jak formaty kwantyzacji LLM faktycznie wykorzystują pamięć

Porównanie wykorzystania pamięci GGUF, GPTQ, AWQ i EXL2, od rozmiaru pliku Q4_K_M po wzrost pamięci podręcznej KV i narzut środowiska uruchomieniowego.

Brian Jul 2, 2026 12 min czytania

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

AI i uczenie maszynowe

Czym jest pamięć zunifikowana i dlaczego dzięki niej mini PC może uruchomić model 235B?

Pamięć zunifikowana pozwala kompaktowemu komputerowi AI wczytać modele klasy 235B, których nie pomieści żadna pojedyncza karta GPU o pojemności 24-32 GB. Czym jest, dlaczego działa

Brian Jul 2, 2026 11 min czytania