قررت إجراء fine-tuning لنموذج بحجم 7B على بياناتك الخاصة. ثم تصل إلى أول مفترق طرق حقيقي: ثلاثة أسماء طرق، كل واحدة بإجابة مختلفة. توثيق Unsloth يقول ابدأ بـ QLoRA. Axolotl يقول إن ذلك يعتمد على عتادك. نصف المقالات التي تصفحتها تقول "استخدم LoRA لمعظم الحالات" وتنتقل لموضوع آخر. في الوقت نفسه أنت تحدق في GPU واحد، غير متأكد إن كان قادراً حتى على تشغيل واحدة من هذه الطرق.
هذا هو القرار الذي يقع في مقدمة كل شيء آخر. الطريقة التي تختارها تحدد ميزانية VRAM لديك، وميزانية VRAM تحدد عتادك، والعتاد يحدد تكلفتك. إذا اخترت الطريقة الخاطئة فإما أن تحرق المال على ذاكرة GPU لم تكن تحتاجها، أو تقضي عطلة نهاية أسبوع تتعقب انهيارات نفاد الذاكرة على بطاقة لم تكن مناسبة للمهمة من الأساس.
لنحسم الأمر إذن. هذا ما يميز بالفعل بين LoRA و QLoRA والضبط الدقيق الكامل، وما تكلفه كل طريقة من الذاكرة والجودة، وقاعدة لتوجيه حالتك الخاصة إلى واحدة منها.
النسخة المختصرة
- الخيار الافتراضي هو QLoRA. بالنسبة لمعظم عمليات fine-tuning على GPU واحد، ابدأ بـ QLoRA. جدول Axolotl يضع تشغيل QLoRA لنموذج 7-8B عند حوالي 10-14 جيجابايت من VRAM، بافتراض سياق قصير ودفعات صغيرة. هذا يناسب كثيراً من بطاقات المستهلكين أو شبه المحترفين ذات 12-24 جيجابايت، لكن ليس كل بطاقة منخفضة VRAM. استخدم LoRA العادي عندما تكون الذاكرة متوفرة بكثرة وتريد خطوات أسرع؛ واحتفظ بالضبط الدقيق الكامل للحالات النادرة التي تتطلبه.
- الفجوة في VRAM كبيرة. ضبط نموذج 7B يتطلب حوالي 60-80 جيجابايت للضبط الدقيق الكامل، و16-24 جيجابايت لـ LoRA، و10-14 جيجابايت لـ QLoRA، وفقاً للأرقام المنشورة من Axolotl. هذا التفاوت هو السبب الكامل في وجود الطرق الفعالة من حيث المعاملات.
- فقدان الجودة يعتمد على المهمة، وليس ثابتًا. في معظم مهام اتباع التعليمات والمخرجات المنظمة، تقترب LoRA و QLoRA من الضبط الدقيق الكامل بنسبة لا تتجاوز بضع نقاط بالمئة. تزداد الفجوة في الاستدلال المعقد مثل الرياضيات. وهنا يظل الضبط الدقيق الكامل يستحق تكلفته.
- الضبط الدقيق الكامل هو الاستثناء، لا الأساس. يتم اللجوء إليه في حالات التغيرات الكبيرة في التوزيع، أو التعديلات على مستوى التدريب المسبق، أو المهام الحساسة للاستدلال التي تُظهر فيها المعايير القياسية فجوة واضحة، وليس كخيار افتراضي آمن.
ما لا يغطيه هذا الدليل
هذا دليل لاختيار الطريقة، وليس شرحًا للتنفيذ. بعض الأمور مستبعدة عمدًا من النطاق:
- متغيرات LoRA (DoRA وVeRA وLoRA+). الطرق الأساسية الثلاث هي القرار الأهم أولًا؛ أما المتغيرات فهي تحسينات تُستخدم لاحقًا.
- كود خطوة بخطوة. لا توجد هنا أوامر تثبيت أو نصوص تدريب. هذا شرح عملي منفصل، ولا يتم تناوله هنا.
- التدريب متعدد وحدات GPU (FSDP، DeepSpeed ZeRO) و تحضير مجموعة البيانات: كلاهما موضوع واسع بذاته.
- RLHF وDPO وتحسين التفضيلات. هذه فئة أهداف مختلفة عن الضبط الدقيق الخاضع للإشراف.
- هل يجب عليك أصلاً إجراء الضبط الدقيق. إذا لم تكن متأكدًا من أن الضبط الدقيق هو الأداة الصحيحة مقارنة بالاسترجاع (retrieval)، فتلك المقارنة تستحق إجابة خاصة بها قبل اختيار طريقة هنا.
ما الفرق الحقيقي بين LoRA وQLoRA والضبط الدقيق الكامل؟
يقوم الضبط الدقيق الكامل بتحديث كل معامل في النموذج. أما LoRA فيجمّد النموذج الأساسي ويدرّب بدلاً من ذلك مصفوفات محوّلات صغيرة منخفضة الرتبة (حوالي 0.1-2% من إجمالي عدد المعاملات). ويضيف QLoRA خطوة أخرى فوق LoRA: فهو يقوم بتكميم النموذج الأساسي المجمّد إلى دقة 4 بت (باستخدام نوع بيانات يسمى NF4، أي NormalFloat) بحيث يستهلك النموذج الأساسي ذاكرة أقل بكثير أثناء تدريب المحوّلات.
أوضح طريقة لتذكّر الثلاثة في ذهنك هي كسلّم، حيث تزيل كل درجة تكلفة واحدة من الدرجة التي تحتها.
الضبط الدقيق الكامل هي الدرجة الأدنى، والأثقل. كل وزن قابل للتدريب، لذا يجب على المُحسِّن تتبع التدرج وحالة المُحسِّن لكل معامل في النموذج. هذا هو المكان الذي تذهب إليه الذاكرة، وسنتناول الحسابات في القسم التالي.
LoRA (التكيف منخفض الرتبة) يجمّد الأوزان الأصلية ويحقن مصفوفات صغيرة قابلة للتدريب في طبقات النموذج. تتعلم فقط هذه المصفوفات؛ النموذج الأساسي يبقى دون تغيير. تفيد ورقة LoRA بأن هذا يقلل المعاملات القابلة للتدريب بمقدار يصل إلى 10,000x لنموذج بحجم 175B ويقلل ذاكرة GPU بمقدار 3x تقريبًا عند هذا المقياس، مع تحقيق أداء "يماثل أو يتفوق على الضبط الدقيق في جودة النموذج" على النماذج التي اختبرها المؤلفون. ولأن عددًا قليلاً جدًا من المعاملات يتغير، تكون النتيجة المدرَّبة صغيرة جدًا. مدونة مدونة PEFT يقدم نقطتي مرجع مفيدتين: نقطة تفتيش كاملة بحجم 40 GB لـ bigscience/mt0-xxl، ومثال منفصل لـ LoRA حيث يكون المهيئ المحفوظ بحجم 19 MB فقط. الفكرة لا تزال نفسها: نقاط تفتيش PEFT تكون عادةً صغيرة جدًا مقارنة بنقاط تفتيش النموذج الكاملة.
QLoRA يأخذ LoRA ويصغّر الجزء الذي تركه LoRA دون تغيير: القاعدة المجمّدة. تحويل تلك الأوزان إلى تنسيق NF4 رباعي البت يعني أن النموذج الأساسي يحتل جزءًا بسيطًا من الذاكرة التي كان سيحتلها بتنسيق 16 بت، مع استمرار تدريب المهيئات بدقة كاملة فوقه. تصف ورقة QLoRA تنسيق NF4 بأنه "مثالي نظريًا من الناحية المعلوماتية للأوزان الموزعة توزيعًا طبيعيًا"، وهي طريقة دقيقة للقول إن تمثيل الـ4 بت يُختار ليطابق التوزيع الفعلي لأوزان النموذج، وبالتالي تفقد أقل مما سيكلفك تقريب رباعي البت بسيط.
هذا هو المكدس المفاهيمي الكامل: الضبط الدقيق الكامل يدرّب كل شيء، LoRA يجمّد القاعدة ويدرّب المهيئات، QLoRA يضغط القاعدة المجمّدة ويدرّب المهيئات. كل شيء آخر (VRAM، الجودة، متى تستخدم أيًا منها) ينبع من هذه الخيارات الثلاثة.
ما مقدار VRAM الذي تحتاجه كل طريقة؟
بالنسبة لنموذج 7B، فإن الأرقام التقريبية هي حوالي 60-80 GB للـ full fine-tuning، و16-24 GB لـ LoRA، و10-14 GB لـ QLoRA، وفقًا لـ الجدول المنشور من Axolotl. النتيجة العملية: غالبًا ما تتناسب QLoRA مع العديد من وحدات معالجة الرسومات الاستهلاكية أو شبه المهنية الفردية بسعة 12-24 GB في إعدادات السياق القصير والحزمة الصغيرة، بينما يحتاج full fine-tuning لنموذج 7B إلى ذاكرة مركز بيانات أو إعداد متعدد وحدات معالجة الرسومات.
لماذا يعتبر full fine-tuning ثقيلًا جدًا؟ حسابات بسيطة. عندما تدرب كل معلمة (parameter)، تحتفظ GPU بثلاثة أشياء لكل معلمة: الوزن نفسه، وتدرجه (gradient)، وحالة المُحسِّن (optimizer state) (تحتفظ المُحسِّنات من نوع Adam بقيمتين إضافيتين لكل وزن). لهذا السبب تكون فاتورة الذاكرة عدة أضعاف حجم النموذج نفسه. تجمّد LoRA القاعدة، لذا فهي تدفع ضريبة التدرج والمُحسِّن هذه فقط على مصفوفات المحول الصغيرة. تخزن QLoRA بالإضافة إلى ذلك القاعدة المجمدة بدقة 4-bit بدلاً من 16-bit، مما يقلل أكبر تكلفة متبقية.
هكذا تتم مقارنة الطرق الثلاث عبر أحجام النماذج المختلفة، بالاستناد إلى وثائق Axolotl وورقة بحث QLoRA بالنسبة لأرقام النماذج الكبيرة:
| الطريقة | نموذج 1-3B | نموذج 7-8B | نموذج 70B+ |
|---|---|---|---|
| Full fine-tuning (bf16 + AdamW) | 24-32 GB | 60-80 GB | 4-8x 80 GB |
| LoRA (bf16) | 8-12 GB | 16-24 GB | 2x 80 GB |
| QLoRA (4-bit NF4) | 6-8 GB | 10-14 GB | 40-48 GB |
المصادر: وثائق Axolotl لجميع الطرق الثلاث عبر أحجام النماذج المختلفة؛ تشير ورقة QLoRA بشكل مستقل إلى ضبط دقيق لنموذج 65B على GPU واحد بسعة 48 GB "مع الحفاظ على أداء المهمة الكامل لضبط دقيق بـ 16 بت"، وهذا يتوافق مع رقم QLoRA لنموذج 70B. مدونة Hugging Face عن مدونة عن التكميم بـ 4 بت يعرض بشكل منفصل نموذج 13B تم تدريبه على بطاقة T4 واحدة بسعة 16 GB ونموذج 33B على GPU بسعة 24 GB باستخدام QLoRA. تُعد هذه نقاط مرجعية مفيدة إذا كان هدفك يقع بين صفوف الجدول.
الرقم الوحيد الذي يستحق الحفظ: نموذج 65B على بطاقة واحدة بسعة 48 GB. هذه هي النتيجة الرئيسية لـ QLoRA، وهي تعيد تعريف معنى عبارة "لدي GPU واحد فقط".
خلاصة القسم: تسلسل VRAM هو full >> LoRA > QLoRA، والفرق بين full وQLoRA كبير بما يكفي لنقل المهمة من رف متعدد GPU إلى بطاقة واحدة.
هل يكلفك LoRA أو QLoRA الجودة فعلاً؟
بالنسبة لمعظم مهام اتباع التعليمات والمخرجات المنظمة، تقترب LoRA وQLoRA من الضبط الدقيق الكامل بفارق بضع نقاط بالمئة فقط. تزداد الفجوة في الاستدلال المعقد (الرياضيات خاصة)، حيث يظل الضبط الدقيق الكامل متقدماً بوضوح. لذلك فالإجابة ليست "شبه متكافئة" أو "أسوأ". إنها تعتمد على المهمة، ونوع المهمة يحدد لك في أي جانب من هذا الخط تقع.
تأتي أوضح الأدلة حسب نوع المهمة من دراسة أجرتها Anyscale في سبتمبر 2023 على دراسة Anyscale على Llama 2. في ViGGO، وهي مهمة تمثيل وظيفي منظم، حقق LoRA نحو 95% من دقة الضبط الدقيق الكامل على نماذج 7B و13B: فارق 2% اعتبره المؤلفون مقايضة مقبولة. في توليد SQL، كاد LoRA يطابق الضبط الدقيق الكامل، وتفوق نموذج LoRA بحجم 13B فعليًا على النموذج 7B المضبوط بالكامل. في GSM8k، وهو معيار استدلال رياضي، كان أداء LoRA أضعف باستمرار من الضبط الدقيق الكامل على 7B و13B، مع تقارب الفارق فقط عند 70B. تفسير فريق Anyscale هو أن التقريب منخفض الرتبة في LoRA قد لا يستوعب مهارة معقدة مثل الرياضيات متعددة الخطوات.
تحفظ واحد على هذه الأرقام: أُجريت تلك الدراسة على Llama 2 في سبتمبر 2023. نمط نوع المهمة (المخرجات المنظمة قريبة، الاستدلال المعقد أبعد) هو الاستنتاج الدائم الذي استمر بنفس الروح منذ ذلك الحين. لكن النسب الدقيقة قد تختلف على نموذج أساسي أحدث مثل Llama 3 أو Mistral، لذا تعامل مع الأرقام كشكل للمقايضة، لا كضمان لنموذجك.
قصة جودة QLoRA خاصة بها. تفيد ورقة QLoRA بأن Guanaco، نموذجها بحجم 65B المدرّب بـ QLoRA، حقق 99.3% من أداء ChatGPT على معيار Vicuna. قوي، لكنه محدود بذلك المعيار المحدد وتلك المقارنة لعام 2023، وليس تأكيدًا عامًا بأن "QLoRA يساوي ChatGPT". في مواجهة LoRA العادي، يصف Axolotl QLoRA بأنه يحمل "تدهورًا طفيفًا بسبب ضجيج التكميم": القاعدة رباعية البت تُدخل أخطاء صغيرة لا تحملها قاعدة LoRA كاملة الدقة. بالنسبة لمعظم الأعمال هذا غير ملحوظ؛ بالنسبة لمهمة حساسة لتحولات دقة صغيرة، فهذا شيء يستحق التحقق منه لا افتراضه.
نصيحة احترافية: أكثر مفاجأة جودة شيوعًا ليست QLoRA في مقابل LoRA. إنها نموذج مضبوط بدقة يخرج أسوأ من النموذج الأساسي الذي بدأت منه. عادةً يعني ذلك أن التدريب فعل شيئًا لم تقصده: عدوانيًا للغاية على مجموعة بيانات ضيقة، أو تم تقييمه فقط على المهمة الجديدة بينما تراجعت القدرة العامة بهدوء. اختبر دائمًا النموذج المضبوط بدقة على بعض المطالبات خارج توزيع تدريبك قبل أن تثق به. التراجع هناك هو إشارة للتراجع، لا للشحن.
خلاصة القسم: تكافؤ الجودة يعتمد على المهمة. المخرجات المنظمة واتباع التعليمات آمنة لـ LoRA/QLoRA؛ الاستدلال المعقد هو المكان الذي لا يزال فيه الضبط الدقيق الكامل يستحق تكلفته.
متى يجب أن تختار كل طريقة؟
ابدأ بـ QLoRA لمعظم عمليات الضبط الدقيق على GPU واحد. انتقل إلى LoRA العادي عندما تتوفر لديك مساحة VRAM إضافية وتريد خطوات أسرع أو سقف جودة أعلى قليلاً. احتفظ بالضبط الدقيق الكامل للحالات التي تحتاجه بالفعل: تحولات توزيع كبيرة، تغييرات بحجم التدريب المسبق، أو مهام حرجة في الاستدلال حيث يكون الفارق في المعايير حقيقيًا. وجّه قرارك بثلاثة مدخلات، بالترتيب: VRAM المتاحة، نوع المهمة ومتطلبات الجودة، ثم السرعة.
هذا هو التوجيه على شكل "افعل هذا، لا ذاك":
1. تحقق من ذاكرة VRAM أولاً. إذا كنت تعمل على بطاقة واحدة بسعة 24 GB أو أقل (وهو ما يشمل معظم بطاقات الرسوميات الاستهلاكية والـ prosumer)، فإن QLoRA هو أسلوبك الافتراضي، لأنه الوحيد من الثلاثة الذي يستوعب نموذج 7B بشكل موثوق في هذا الحجم. لا تلجأ إلى full fine-tuning على بطاقة استهلاكية واحدة؛ الجدول أعلاه يوضح لك أن مهمة 7B لن تتسع، وستقضي عطلة نهاية الأسبوع في تعلّم ذلك بالطريقة الصعبة.
2. ثم تحقق من مهمتك ومعيار الجودة المطلوب. إذا كانت مهمتك تتعلق باتباع التعليمات، أو الإخراج المُهيكل، أو SQL، أو التكيّف العام مع مجال معين، فإن بيانات Anyscale تشير إلى أن LoRA وQLoRA يقدّمان جودة قريبة جدًا من الكاملة. التزم بالخيار الافتراضي. أما إذا كانت مهمتك تعتمد بشكل كبير على الاستدلال (رياضيات متعددة الخطوات، سلاسل منطقية معقدة) وكانت الجودة غير قابلة للتفاوض، فهذا أول سبب حقيقي للتفكير في الانتقال إلى full fine-tuning، لأن هذا هو نوع المهمة الوحيد الذي تُظهر فيه المقارنات المعيارية فرقًا ثابتًا.
3. ثم قيّم السرعة. تتنازل QLoRA عن بعض السرعة في كل خطوة مقابل توفيرها للذاكرة: يجب إلغاء تكميم القاعدة ذات 4 بت أثناء التشغيل. إذا كانت لديك ذاكرة VRAM كافية لتشغيل LoRA العادي (16-24 GB لنموذج 7B)، فستحصل على خطوات أسرع وتتجنب ضجيج التكميم، وهذا ما يجعل LoRA الخيار الأفضل عندما لا تكون الذاكرة هي القيد الحاسم وأنت تكرر التجارب كثيرًا.
متى is هل يكون full fine-tuning هو الخيار الصحيح؟ توجيهات Axolotl واضحة ومباشرة: إنه مطلوب للتدريب المسبق (pre-training)، وهو الخيار "عندما تتوفر لديك ذاكرة GPU وافرة أو إعدادات متعددة GPU، وتحتاج إلى أعلى أداء ممكن". خارج هذه الشروط (وبالنسبة للغالبية العظمى من عمليات fine-tuning العملية، التي تتمثل في تكييف نموذج قائم مع سلوك أو مجال محدد)، تمنحك الأساليب الفعّالة من حيث المعطيات (parameter-efficient) معظم الجودة بجزء صغير من العتاد.
توضح Unsloth الخيار الافتراضي بشكل مباشر:
"ننصح بالبدء باستخدام QLoRA، لأنها من أكثر الطرق سهولة وفعالية لتدريب النماذج."
هذه هي القاعدة: استخدم QLoRA كخيار افتراضي، وانتقل إلى LoRA للحصول على سرعة أكبر عندما تتوفر لديك الذاكرة الكافية، ولا تنتقل إلى الضبط الدقيق الكامل إلا عندما تفرض المهمة أو الحجم ذلك.
خلاصة القسم: QLoRA هو الخيار الافتراضي، وLoRA هو الترقية لتحقيق السرعة والمساحة الإضافية، والضبط الدقيق الكامل هو الاستثناء الذي تبرره حالات تغيّر التوزيع، أو التدريب المسبق، أو معيار الاستدلال.
ما الذي يخطئ فيه الناس بشأن أساليب الـ fine-tuning؟
هناك مفهومان خاطئان يتسببان في معظم عطلات نهاية الأسبوع الضائعة. الأول هو التعامل مع الـ fine-tuning كوسيلة لتعليم النموذج حقائق جديدة، في حين أن تأثيره الأساسي هو تشكيل السلوك. الثاني هو افتراض أنك تستطيع شراء الجودة بمجرد تدوير مقبض: أن رتبة LoRA أعلى، أو full fine-tuning بدلاً من QLoRA، تمنحك تلقائياً نموذجاً أفضل. كلا الافتراضين نصف صحيح، وهذا بالضبط ما يجعلهما مضللين.
هل يعلّم الـ fine-tuning النموذج حقائق جديدة؟
هنا يوجد انقسام حقيقي بين الخبراء، لذا من الأفضل فهم التفاصيل الدقيقة بدلاً من الانحياز لجانب معين. تصف عدة أدلة عملية عبارة "الـ fine-tuning يعلّم حقائق جديدة" بأنها المفهوم الخاطئ الأول: حجتهم هي أن الـ fine-tuning أفضل بكثير في تشكيل طريقة استجابة النموذج مقارنة بحقن حقائق محددة بشكل موثوق لم يرها النموذج مطلقاً خلال التدريب المسبق. توثيق Unsloth يرد على ذلك مباشرة، معتبراً أن الادعاء بأن الـ fine-tuning لا يمكنه تعليم معرفة جديدة "غير صحيح"، ويصف الـ fine-tuning بأنه وسيلة لـ "حقن وتعلم معلومات جديدة خاصة بمجال معين".
كلاهما محق جزئياً، والقراءة التوفيقية هي: الـ fine-tuning موثوق في تشكيل السلوك وتعزيز المعرفة الكامنة بالفعل في النموذج الأساسي، ويمكنه ترميز أنماط خاصة بمجال معين. أما ما هو غير موثوق فيه فهو زرع حقائق منفصلة كانت غائبة تماماً عن التدريب المسبق. كلما بدا هدفك أقرب إلى "حفظ هذا المستند المحدد"، زادت احتمالية أنك تستخدم الأداة الخاطئة، وقد يخدمك retrieval بشكل أفضل. لذا فإن التوجيه العملي يبقى صالحاً رغم الخلاف: استند إلى الـ fine-tuning للسلوك والأسلوب، وكن متشككاً في استخدامه كآلية لحقن الحقائق.
هل تؤدي رتبة LoRA الأعلى دائماً إلى تحسين الجودة؟
لا، وهذا هو المقبض الأسهل في المبالغة في تدويره. الحدس يقول إن الرتبة الأعلى تمنح المحول سعة أكبر، فبالتالي الأكثر يجب أن يكون أفضل. اختبرت Databricks هذا تجريبياً ووجدت أن مضاعفة الرتبة "لا يبدو أنها تؤدي إلى أي زيادة ملموسة في جودة الناتج". ما أحدث فرقاً حقيقياً في تجاربهم كان الطبقات التي استهدفوها (تكييف جميع الطبقات الخطية بدلاً من كتل الانتباه فقط) وليس زيادة رقم الرتبة. الخلاصة التي تستحق الاستخلاص: أنفق جهد الضبط على الوحدات المستهدفة وجودة البيانات قبل أن تنفقه على تضخيم الرتبة.
هل جودة LoRA تعادل دائماً الضبط الدقيق الكامل (Full Fine-Tuning)؟
ليس بشكل عام، وقد حددت ورقة بحثية حديثة نمط فشل محدداً. "LoRA vs Full Fine-tuning: An Illusion of Equivalence" لمؤلفين Shuttleworth et al. تجد أن تدريب LoRA قد يُدخل "أبعاداً متطفلة" (متجهات فردية عالية الرتبة غائبة في النماذج المضبوطة دقيقاً بالكامل) وتربطها بالنسيان في سيناريوهات التعلم المستمر، حيث يخضع النموذج نفسه للضبط الدقيق بشكل متكرر. هذا تحفظ محدد لا رفض شامل: إذا كنت تقوم بجولة واحدة من الضبط الدقيق لمهمة واحدة، فإن الأدلة العامة على تساوي الجودة لا تزال صالحة. أما إذا كنت تسلسل عمليات الضبط الدقيق وتهتم بالحفاظ على القدرة العامة للنموذج الأساسي، فهذا هو نمط الفشل الذي يجب مراقبته.
الأسئلة الشائعة
ما الفرق بين LoRA وQLoRA والضبط الدقيق الكامل (Full Fine-Tuning)؟
يحدّث الضبط الدقيق الكامل كل معلمة في النموذج. أما LoRA فيُجمّد النموذج الأساسي ويدرّب بدلاً من ذلك مصفوفات محوّل صغيرة منخفضة الرتبة، أي نحو 0.1-2% من المعلمات. أما QLoRA فيقوم بما تقوم به LoRA، ويضيف إلى ذلك تكميم النموذج الأساسي المُجمّد إلى دقة 4-bit NF4، بحيث يحتاج النموذج الأساسي إلى ذاكرة أقل بكثير أثناء تدريب المحوّلات. النتيجة سلّم واضح لاستهلاك الذاكرة: الضبط الدقيق الكامل هو الأثقل، وLoRA أخف، وQLoRA الأخف من بينها جميعاً.
كم من VRAM أحتاج لإجراء الضبط الدقيق لنموذج بحجم 7B؟
بالنسبة لنموذج بحجم 7B، تشير أرقام Axolotl إلى أن الضبط الدقيق الكامل يحتاج نحو 60-80 GB، وLoRA يحتاج 16-24 GB، وQLoRA يحتاج 10-14 GB. QLoRA هو الوحيد من الثلاثة الذي يتناسب عادةً مع كثير من وحدات GPU الاستهلاكية أو شبه الاحترافية ذات 12-24 GB لكل واحدة؛ أما الضبط الدقيق الكامل لنموذج بحجم 7B فيحتاج إلى ذاكرة بمستوى مراكز البيانات أو وحدات GPU متعددة.
هل جودة QLoRA أضعف من LoRA أو الضبط الدقيق الكامل؟
يعتمد ذلك على المهمة. بالنسبة لمعظم أعمال اتباع التعليمات والمخرجات المنظمة، يقترب QLoRA من الضبط الدقيق الكامل بنسبة قليلة، ويصف Axolotl فقط "تدهورًا طفيفًا بسبب ضجيج التكميم" مقارنة بـ LoRA العادي. يزداد الفارق في مهام الاستدلال المعقدة مثل الرياضيات، حيث أظهر الضبط الدقيق الكامل ميزة ثابتة في دراسة Anyscale لعام 2023 على Llama 2.
متى يكون الضبط الدقيق الكامل مفيدًا بالفعل؟
الضبط الدقيق الكامل يستحق تكلفته للتدريب المسبق، والتحولات الكبيرة في التوزيع، والمهام الحرجة في الاستدلال حيث تُظهر المعايير فارقًا حقيقيًا في الجودة. إنه أيضًا الطريق عندما تتوفر لديك ذاكرة GPU وافرة أو إعداد متعدد GPU وتحتاج إلى أقصى جودة. بالنسبة للحالة الشائعة (تكييف نموذج موجود مع سلوك أو مجال معين)، يمنحك LoRA أو QLoRA معظم الجودة بجزء بسيط من العتاد.
هل يعلّم الـ fine-tuning النموذج حقائق جديدة؟
جزئيًا. الضبط الدقيق موثوق في تشكيل السلوك وتعزيز المعرفة الكامنة بالفعل في النموذج الأساسي، ويمكنه ترميز أنماط خاصة بالمجال. إنه غير موثوق في زرع حقائق منفصلة كانت غائبة تمامًا عن التدريب المسبق. هناك خلاف حقيقي بين الخبراء هنا. توثيق Unsloth يجادل بأن الضبط الدقيق يمكن أن يعلّم معرفة جديدة، بينما تسمي أدلة أخرى هذا أكبر سوء فهم، والرأي التوافقي هو استخدام الضبط الدقيق للسلوك والأسلوب، والاستعانة بالاسترجاع عندما يكون الهدف تذكر حقائق محددة.
أين يتركك هذا
يتلخص اختيار الطريقة في افتراضية واحدة ومخرجين طارئين: ابدأ بـ QLoRA، انتقل إلى LoRA عندما لا تكون الذاكرة القيد وتريد خطوات أسرع، انتقل إلى الضبط الدقيق الكامل فقط عندما يفرضه تحول في التوزيع، أو تدريب مسبق، أو معيار استدلال.
بعد تحديد الطريقة، القرار التالي هو العتاد الذي تتطلبه. اختيارك للطريقة أخبرك للتو إن كنت تبحث عن بطاقة استهلاكية واحدة أو ذاكرة مركز بيانات. إذا كنت تريد مقارنة بطاقات محددة لأحمال عمل الذكاء الاصطناعي، فإن H100 مقابل RTX 4090 يغطي هذا الجانب. تحديد حجم GPU المناسب للطريقة التي اخترتها، ودليل خطوة بخطوة لتشغيل مهمة التدريب نفسها، هما دليلان منفصلان بذاتهما.
