Tác giả

Brian

Chuyên viên viết kỹ thuật nội bộ

3 posts

Brian hướng dẫn cách dùng phần mềm và công cụ một cách hiệu quả. Anh giữ sự thực dụng trong từng bài viết và mang lại giá trị dưới dạng công việc thực sự làm được ngay hôm nay.

LoRA vs QLoRA vs full fine-tuning compared by VRAM use, quality, and when each method wins

AI và Machine Learning

LoRA vs. QLoRA vs. Full Fine-Tuning: Nên dùng phương pháp nào?

So sánh LoRA, QLoRA và full fine-tuning theo VRAM, chất lượng và trường hợp sử dụng. Tìm hiểu phương pháp fine-tuning LLM nào phù hợp với ngân sách GPU của bạn.

Brian Jul 6, 2026 15 phút đọc

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

AI và Machine Learning

GGUF, GPTQ, AWQ, EXL2: Các định dạng lượng tử hóa LLM thực sự dùng bộ nhớ như thế nào

So sánh mức sử dụng bộ nhớ của GGUF, GPTQ, AWQ, và EXL2, từ kích thước file Q4_K_M đến sự tăng trưởng KV cache và chi phí phụ runtime.

Brian Jul 2, 2026 12 phút đọc

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

AI và Machine Learning

Bộ nhớ hợp nhất là gì và tại sao nó cho phép một mini PC chạy được mô hình 235B?

Bộ nhớ hợp nhất cho phép một PC AI nhỏ gọn nạp các mô hình cỡ 235B mà không một GPU 24-32GB đơn lẻ nào chứa nổi. Đó là gì, vì sao nó hoạt động, và vì sao lớn hơn không có nghĩa là

Brian Jul 2, 2026 11 phút đọc