著者

Brian

Staff Technical Writer

2 posts

Brian educates on using software and tools effectively. He is pragmatic in each of his articles and provides value in terms of work that can actually be done today.

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

AIと機械学習

GGUF、GPTQ、AWQ、EXL2、LLM量子化フォーマットが実際にメモリをどう使うか

GGUF、GPTQ、AWQ、EXL2のメモリ使用量を比較する。Q4_K_Mのファイルサイズから、KVキャッシュの増大、ランタイムのオーバーヘッドまで。

Brian Jul 2, 2026 12 分で読めます

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

AIと機械学習

ユニファイドメモリとは何か、そしてなぜそれによってミニPCが235Bモデルを実行できるのか

ユニファイドメモリにより、コンパクトなAI PCは単一の24〜32GB GPUでは保持できない235B級モデルをロードできる。それが何か、なぜ機能するのか、そしてなぜ大きいことが速いことを意味しないのかを解説する。

Brian Jul 2, 2026 11 分で読めます