المؤلف

Brian

Staff Technical Writer

2 posts

Brian educates on using software and tools effectively. He is pragmatic in each of his articles and provides value in terms of work that can actually be done today.

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

الذكاء الاصطناعي وتعلم الآلة

GGUF وGPTQ وAWQ وEXL2: كيف تستخدم صيغ تكميم LLM الذاكرة فعليًا

قارن استخدام الذاكرة بين GGUF وGPTQ وAWQ وEXL2، من حجم ملف Q4_K_M إلى نمو ذاكرة KV cache والنفقات الإضافية لبيئة التشغيل.

Brian Jul 2, 2026 12 دقيقة قراءة

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

الذكاء الاصطناعي وتعلم الآلة

ما هي الذاكرة الموحدة، ولماذا تسمح لجهاز mini PC بتشغيل نموذج بحجم 235B؟

تتيح الذاكرة الموحدة لجهاز AI PC مدمج تحميل نماذج من فئة 235B لا يستطيع أي GPU منفرد بسعة 24-32GB استيعابها. ما هي، ولماذا تنجح، ولماذا لا يعني الأكبر الأسرع.

Brian Jul 2, 2026 11 دقيقة قراءة