مرجع
آخر الزيارات

صقل (تعلم الآلة)

722 كلمة•0 مشاهدة•🗒️ منذ يوم
باختصار: الصَقْل أو الضبط الدقيق في التعلم الآلي طريقة لنقل التعلم حيث يجري تدريب نموذج مدرب مسبقًا على بيانات جديدة. في هذه المقالة 5 أقسام: «معالجة اللغة الطبيعية»، «صقل التمثيل» و«المتانة» وغيرها.
المحتويات
  1. معالجة اللغة الطبيعية
  2. صقل التمثيل
  3. المتانة
  4. النماذج التجارية
  5. التكييف المنخفض الرتبة

تعريفًا بالموضوع، الصَقْل أو الضبط الدقيق في التعلم الآلي طريقة لنقل التعلم حيث يجري تدريب نموذج مدرب مسبقًا على بيانات جديدة. يمكن إجراء الصقل على الشبكة العصبية بأكملها، أو على مجموعة فرعية فقط من طبقاتها، وفي هذه الحالة "تُجمّد" الطبقات التي لم تُصقَل (لم تُحدّث أثناء خطوة الانتشار العكسي). وتعرض الأقسام التالية جوانب أخرى من الموضوع.

في هذا الإطار، النماذج التي تدرب سلفا على مدونات ضخمة وعامة، يجرى صقلها عادة بإعادة استخدام مُعاملاتها كنقطة انطلاق، مع إضافة طبقة مُخصصة للمهمة تدرب من الصفر. كما أن صَقل النموذج بأكمله شائعٌ كذلك، وغالبا ما يعطي نتائج أفضل، بيد أنه أعلى كلفةً من الناحية الحسابية.

وفي هذا الصدد، ينطوي الصقل على تطبيق تدريب إضافي (مثلًا، على بيانات جديدة) على معاملات شبكة عصبية دُربت سلفا. وله صيغ عديدة.

إضافةً إلى ذلك، يجري الصقل عادةً من خلال التعلم المراقب، ولكن ثمة تقنيات لضبط النموذج باستخدام تعلم مراقب ضعيف كذلك. يستعمل التعلم بالتعزيز كذلك لضبط نماذج اللغة مثل دردشة ج.ب.ت (نسخة دقيقة من GPT-3) وSparrow عن طريق التعليم المعزز من ردود الفعل البشرية.

وفي هذا الصدد، من الشائع الاحتفاظ بالطبقات السابقة (تلك الأقرب إلى طبقة الإدخال) مجمدة في بعض المعماريات، مثل الشبكات العصبية الالتفافية، لأنها تلتقط ميزات ذات مستوى أدنى، في حين أن الطبقات اللاحقة غالبًا ما تتميز بميزات عالية المستوى يمكن أن تكون أكثر ارتباطًا بـ المهمة التي دُرّب النموذج عليها.

وفي هذا الصدد، يمكن تطبيق هذا التدريب الإضافي على الشبكة العصبية بأكملها، أو على مجموعة فرعية من طبقاتها فحسب. وفي الحالة الأخيرة، "تُجمَّد" الطبقات التي لا تخضع للضبط (أي لا يطرأ عليها تغيير أثناء عملية الانتشار الخلفي).

وفي السياق ذاته، يمكن كذلك دعم النموذج بـ "المُكيفات"، وهي وحدات نمطية خفيفة تُدمَج في معمارية النموذج وتعمل على توجيه "فضاء التضمين" بغرض "تكييف النطاق". تحتوي هذه المُكيفات على مُعاملات أقل بكثير من النموذج الأصلي، ويمكن صقلها بطريقة مُوفِّرة للمعاملات، وذلك عبر ضبط أوزانها هي فقط وترك باقي أوزان النموذج مُجمَّدة.

معالجة اللغة الطبيعية

وفي هذا السياق، الصقل شائع في معالجة اللغة الطبيعية، وخصوصًا في مجال نمذجة اللغة. يمكن صقل نماذج اللغة الكبيرة، مثل سلسلة نماذج جي بي تي التأسيسية من أوبن أي آي، على بيانات من أجل مهام لاحقة محددة في معالجة اللغة الطبيعية (وهي مهام تستعمل نموذجًا مدربًا سلفًا)، وذلك لتحسين الأداء مقارنة بالنموذج غير المعدل المدرب سلفًا.

صقل التمثيل

ومن ناحية أخرى، تعمل طرائق صقل التمثيل على نموذج أساسي مجمد (لا تُغير النموذج الأصلي)، وتتعلم تدخلات مخصصة للمهمة على التمثيلات الخفية (تتعلم كيف تتدخل وتُعدل في التمثيلات الخفية للنموذج)، وتدرب تدخلات تتلاعب بجزء ضئيل من تمثيلات النموذج لتوجيه سلوكياته نحو حل المهام اللاحقة وقت الاستدلال.

في هذا الإطار، إحدى الطرائق المحددة ضمن عائلة صقل التمثيل هي صقل التمثيل منخفض الرتبة في الفضاء الخطي (LoReFT)، وهي تتدخل في التمثيلات الخفية الموجودة في الفضاء الخطي الذي تولده مصفوفة إسقاط منخفضة الرتبة.

وفي هذا السياق، بخلاف طرائق الصقل الموفِّر للمُعاملات، التي تركز أساسًا على تحديث الأوزان، يركز صقل التمثيل على التمثيلات نفسها، مما يشير إلى أن تعديل التمثيلات قد يكون استراتيجية أنجع من تحديث الأوزان.

من جهة ثانية، صقل التمثيل (ReFT) هو تقنية طورها باحثون في جامعة ستانفورد، تهدف إلى صقل نماذج اللغة الكبيرة عبر تعديل أقل من واحد في المائة من تمثيلاتها.

وفي هذا الصدد، يمكن النظر إلى "صقل التمثيل منخفض الرتبة في الفضاء الخطي" مُكافئًا لتقنية "التكييف منخفض الرتبة" المعروفة؛ لكن الأخيرة تُعدل على أوزان النموذج، بينما الأولى تُعدل على تمثيلات النموذج.

تطبيقات

المتانة

علاوةً على ذلك، يمكن أن يضعف الصقل متانة النموذج في مواجهة . تتمثل إحدى طرق التخفيف في إجراء استيفاء خطي لأوزان النموذج المصقول مع أوزان النموذج الأصلي، الأمر الذي يمكن أن يزيد كثيرا من الأداء "خارج التوزيع"، مع الحفاظ إلى حد كبير على الأداء "ضمن التوزيع" للنموذج المصقول.

المتغيرات

النماذج التجارية

وفي هذا الصدد، يمكن أحيانًا صقل نماذج اللغة الكبيرة المتاحة تجاريًا إذا كان المُزوِّد يوفر واجهة برمجة تطبيقات للصقل. حتى تاريخ 19 يونيو 2024، تُقدِّم كل من أوبن أي آي وخدمة أزور أوبن أي آي التابعة لمايكروسوفت أزور واجهات برمجة تطبيقات لصقل مجموعة فرعية من نماذجها، وكذلك تفعل منصة جوجل السحابية لبعض نماذجها من عائلة بالم، وجهات أخرى غيرها.

التكييف المنخفض الرتبة

وفي السياق ذاته، المُكيِف، في هذا السياق، هو مجموعة من المصفوفات منخفضة الرتبة التي تُنتج، عند إضافتها إلى نموذج أساسي، نموذجًا مصقولًا. وهي تتيح أداءً يقارب أداء صقل النموذج بالكامل، ولكن بمتطلبات مساحة أقل. يمكن صقل نموذج لغوي يضم مليارات المُعاملات باستخدام بضعة ملايين من المُعاملات فقط.

إضافةً إلى ذلك، اكتسب الصقل المستند إلى التكييف منخفض الرتبة رواجًا في مجتمع ستيبل ديفيوجن. وأُدمِج دعم التكييف منخفض الرتبة في مكتبة "ديفيوزرز" التابعة لـ هجينج فيس. كما أن دعم هذه التقنية والتقنيات المشابهة لها مُوفَّر كذلك لمجموعة واسعة من النماذج الأخرى عبر حزمة "الصقل الموفِّر للمُعاملات" (parameter-efficient fine-tuning (PEFT)) من "هَجينْج فَيْس".

وفي هذا الصدد، يُعد التكييف منخفض الرتبة (LoRA) تقنية قائمة على المكيفات تُستعمل لصقل النماذج بكفاءة. الفكرة الأساسية هي تصميم مصفوفة منخفضة الرتبة تضاف فيما بعد إلى المصفوفة الأصلية.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.