Yazar

Brian

Staff Technical Writer

2 posts

Brian educates on using software and tools effectively. He is pragmatic in each of his articles and provides value in terms of work that can actually be done today.

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

AI ve Makine Öğrenmesi

GGUF, GPTQ, AWQ, EXL2: LLM Kuantizasyon Formatları Belleği Gerçekte Nasıl Kullanır

GGUF, GPTQ, AWQ ve EXL2'nin bellek kullanımını, Q4_K_M dosya boyutundan KV önbelleği büyümesine ve çalışma zamanı ek yüküne kadar karşılaştırın.

Brian Jul 2, 2026 12 dk okuma

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

AI ve Makine Öğrenmesi

Birleşik Bellek Nedir ve Neden Bir Mini PC'nin 235B Modeli Çalıştırmasına İzin Verir?

Birleşik bellek, tek başına 24-32GB'lık bir GPU'nun asla sığdıramayacağı 235B sınıfı modelleri kompakt bir yapay zeka PC'sinin yüklemesine olanak tanır. Nedir, neden işe yarar ve n

Brian Jul 2, 2026 11 dk okuma