Autor

Brian

Interne technische Redaktion

3 posts

Brian zeigt, wie man Software und Werkzeuge wirkungsvoll einsetzt. In jedem seiner Artikel bleibt er pragmatisch und liefert Nutzen in Form von Arbeit, die sich heute tatsächlich erledigen lässt.

LoRA vs QLoRA vs full fine-tuning compared by VRAM use, quality, and when each method wins

KI und Machine Learning

LoRA vs. QLoRA vs. Full Fine-Tuning: Welche Methode solltest du nutzen?

Vergleiche LoRA, QLoRA und Full Fine-Tuning nach VRAM, Qualität und Anwendungsfall. Finde heraus, welche LLM-Fine-Tuning-Methode zu deinem GPU-Budget passt.

Brian Jul 6, 2026 15 Min. Lesezeit

$GGUF, GPTQ, AWQ, EXL2 quantization formats compared: how model weights, runtime overhead, and KV cache stack up in memory$

KI und Machine Learning

GGUF, GPTQ, AWQ, EXL2: Wie LLM-Quantisierungsformate den Speicher tatsächlich nutzen

Vergleichen Sie den Speicherverbrauch von GGUF, GPTQ, AWQ und EXL2, von der Q4_K_M-Dateigröße bis zum Wachstum des KV cache und dem Laufzeit-Overhead.

Brian Jul 2, 2026 12 Min. Lesezeit

Unified memory explained: discrete GPU memory requires a copy across PCIe between system RAM and VRAM, while unified memory is one shared pool the CPU and GPU both access directly

KI und Machine Learning

Was ist Unified Memory, und warum kann damit ein Mini-PC ein 235-Milliarden-Parameter-Modell ausführen?

Mit Unified Memory kann ein kompakter KI-PC Modelle der 235B-Klasse laden, die keine einzelne 24-32-GB-GPU fassen kann. Was das ist, warum es funktioniert, und warum größer nicht s

Brian Jul 2, 2026 11 Min. Lesezeit