مرجع
آخر الزيارات

إنصاف (التعلم الآلي)

4٬769 كلمة•0 مشاهدة•🗒️ منذ 7 أيام
باختصار: يشير الإنصاف في التعلم الآلي (ML) إلى المحاولات المختلفة لتصحيح التحيز الخوارزمي في عمليات اتخاذ القرار الآلية القائمة على نماذج التعلم الآلي. في هذه المقالة 25 قسماً: «التعاريف بناءً على النتيجة المتوقعة»، «القيود» و«التحيز اللغوي» وغيرها.
المحتويات
  1. التعاريف بناءً على النتيجة المتوقعة
  2. القيود
  3. التحيز اللغوي
  4. مرحلة ما بعد المعالجة
  5. العلاقات بين التعريفات
  6. التعاريف المبنية على النتائج المتوقعة والفعلية
  7. السياق
  8. الانفصال
  9. الاستقلال
  10. استراتيجيات التخفيف من التحيز
  11. الخلافات
  12. وظيفة الرعاية الاجتماعية
  13. التحيز الجنسي
  14. إعادة الوزن
  15. معايير العدالة الفردية
  16. المعالجة المسبقة
  17. التحيز السياسي
  18. إزالة التحيز العدائي
  19. الكفاية
  20. الارتباك المتساوي والعدالة
  21. رفض التصنيف القائم على الخيار
  22. المقاييس القائمة على السببية
  23. معايير العدالة الجماعية
  24. التعاريف الأولية
  25. جاري المعالجة

قبل الخوض في التفاصيل، يشير الإنصاف في التعلم الآلي (ML) إلى المحاولات المختلفة لتصحيح التحيز الخوارزمي في عمليات اتخاذ القرار الآلية القائمة على نماذج التعلم الآلي. يمكن اعتبار القرارات التي تتخذها مثل هذه النماذج بعد عملية التعلم غير عادلة إذا كانت تستند إلى متغيرات تعتبر حساسة (مثلًا، الجنس، أو العرق، أو التوجه الجنسي، أو الإعاقة). وفيما يلي تفاصيل أوسع عن ذلك.

كذلك، وبما أن القرارات التي تتخذها الآلات قد تكون منحرفة بسبب مجموعة من العوامل، فقد تعتبر غير عادلة فيما يتصل بمجموعات أو أفراد معينين. ومن الممكن أن يكون أحد الأمثلة على ذلك هو الطريقة التي تقدم بها مواقع التواصل الاجتماعي أخبارًا مخصصة للمستهلكين.

من جهة ثانية، كما هو الحال مع الكثير من المفاهيم الأخلاقية، فإن تعريفات العدالة والتحيز يمكن أن تكون مثيرة للجدل. بشكل عام، تعتبر العدالة والتحيز من الأمور ذات الصلة عندما تؤثر عملية اتخاذ القرار على حياة الناس.

التعاريف بناءً على النتيجة المتوقعة

من جانب آخر، تركز التعريفات في هذا القسم على النتيجة المتوقعة لتوزيعات مختلفة من المواضيع. إنها أبسط المفاهيم وأكثرها بديهية للعدالة.

في هذا الإطار، التكافؤ الديموغرافي، ويشار إليه كذلك بالتكافؤ الإحصائي، وتكافؤ معدل القبول، والمقارنة المعيارية. يفي المصنف بهذا التعريف إذا كان لدى الكائنات الموجودة في المجموعات المحمية وغير المحمية احتمال متساوٍ ليتم تعيينها في فئة التنبؤ الإيجابية. وهذا إذا تم استيفاء الصيغة التالية:

من جهة ثانية، التكافؤ الإحصائي الشرطي. يتكون أساسًا من التعريف أعلاه، ولكن يقتصر فقط على مجموعة فرعية من الحالات. في التدوين الرياضي سيكون هذا:

القيود

كذلك، أخيرًا، مع إمكانية تصميم نماذج التعلم الآلي للالتزام بمعايير الإنصاف، إلا أن القرارات النهائية التي يتخذها العاملون البشريون قد تتأثر بتحيزاتهم الشخصية. تحدث هذه الظاهرة عندما لا يقبل صانعو القرار توصيات الذكاء الاصطناعي إلا إذا كانت متوافقة مع تحيزاتهم المسبقة، مما يُقوّض العدالة المنشودة للنظام.

وفي هذا السياق، تؤكد الأعمال الأخيرة على وجود الكثير من القيود على المشهد الحالي للعدالة في التعلم الآلي، وخاصة عندما يتعلق الأمر بما يمكن تحقيقه بشكل واقعي في هذا الصدد في التطبيقات المتزايدة باستمرار للذكاء الاصطناعي في العالم الحقيقي. مثلًا، قد يعتمد النهج الرياضي والكمي لإضفاء الطابع الرسمي على العدالة، والنهج المرتبطة به لإزالة التحيز، على افتراضات مبسطة للغاية ويسهل إغفالها، مثل تصنيف الأفراد إلى مجموعات اجتماعية محددة مسبقًا. ومن بين الجوانب الحساسة الأخرى، مثلًا، التفاعل بين الكثير من الخصائص الحسية، والافتقار إلى مفهوم فلسفي و/أو قانوني واضح ومشترك بشأن عدم التمييز.

التحيز اللغوي

من جانب آخر، يشير التحيز اللغوي إلى نوع من التحيز في أخذ العينات الإحصائية المرتبط بلغة الاستعلام والذي يؤدي إلى "انحراف منهجي في أخذ العينات من المعلومات مما يمنعها من تمثيل التغطية الحقيقية للموضوعات والآراء المتاحة في مستودعها بدقة". لوو وآخرون يُظهر أن نماذج اللغات الكبيرة الحالية، نظرًا لتدريبها في الغالب على بيانات باللغة الإنجليزية، غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية على أنها حقيقة، بينما تُقلل بشكل منهجي من أهمية وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو مجرد ضوضاء. عند طرح أسئلة على شات جي بي تي بأيديولوجيات سياسية مثل "ما هي الليبرالية؟"، يصفها، نظرًا لتدريبه على بيانات تركز على اللغة الإنجليزية، من منظور أنجلو أمريكي، مُركزًا على جوانب حقوق الإنسان والمساواة، بينما تغيب جوانب أخرى بنفس القدر من الصحة مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"تقييد سلطة الحكومة" من المنظور الصيني السائد. وبالمثل، تغيب وجهات النظر السياسية الأخرى المُضمنة في مجموعات البيانات اليابانية والكورية والفرنسية والألمانية في إجابات شات جي بي تي. شات جي بي تي، الذي يُعرّف نفسه بأنه روبوت دردشة متعدد اللغات، في الواقع "يتجاهل" في الغالب وجهات النظر غير الإنجليزية.

مرحلة ما بعد المعالجة

وعلى صعيد آخر، إذا كانت دالة النتيجة عادلة بمعنى أنها مستقلة عن السمة المحمية، فإن أي اختيار للحد الأدنى سيكون عادلاً كذلك، ولكن المصنفات من هذا النوع تميل إلى التحيز، لذلك قد تكون هناك حاجة إلى حد أدنى مختلف لكل مجموعة محمية لتحقيق العدالة. إحدى الطرق للقيام بذلك هي رسم معدل الإيجابية الحقيقية مقابل معدل السلبية الكاذبة في إعدادات عتبة مختلفة (يُطلق على هذا منحنى الخصائص التشغيلية للمستقبل) والعثور على عتبة حيث تكون المعدلات للمجموعة المحمية والأفراد الآخرين متساوية.

كذلك، الطريقة الأخيرة تحاول تصحيح نتائج المُصنِّف لتحقيق العدالة. في هذه الطريقة، لدينا مُصنِّف يُرجع درجة لكل فرد، ونحتاج إلى إجراء تنبؤ ثنائي له. من المُرجَّح أن تُعطي الدرجات العالية نتيجة إيجابية، بينما من المُرجَّح أن تُعطي الدرجات المنخفضة نتيجة سلبية، ولكن يُمكننا تعديل قيمة الحد لتحديد متى نُجيب بنعم كما هو مُراد. يُرجى مُلاحظة أن التباينات في قيمة الحد تُؤثِّر على المُفاضلة بين مُعدلات النتائج الإيجابية الحقيقية والسلبية الحقيقية.

العلاقات بين التعريفات

في هذا الإطار، لو كتوزيع مشترك له احتمالية إيجابية لجميع قيمه الممكنة و و إذا لم تكن العبارات والجمل مستقلة إحصائيًا، فلا يمكن للفصل والكفاية أن يصحا معًا إلا في الحالات البلاغية.

كذلك، ويشار إلى ذلك بالعدالة الكاملة عندما يتم تلبية الاستقلال والانفصال والكفاية في وقت واحد. ومع ذلك، فإن العدالة الكاملة ليست ممكنة إلا في حالات بلاغية محددة.

وفي السياق ذاته، على افتراض هو ثنائي، إذا و ليست مستقلة إحصائيًا، و و إذا لم تكن هذه العبارات مستقلة إحصائيًا كذلك، فإن الاستقلال والانفصال لا يمكن أن يصمدا معًا إلا في الحالات البلاغية.

صياغة رياضية لتعريفات العدالة الجماعية

علاوةً على ذلك، وأخيرا، نلخص بعض النتائج الرئيسية التي تربط بين التعريفات الثلاثة المذكورة أعلاه:

التعاريف المبنية على النتائج المتوقعة والفعلية

من جانب آخر، المساواة في المعاملة. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية نسبة متساوية من FN وFP، مما يلبي الصيغة:

من جانب آخر، رياضيا، إذا كان المصنف له قيمة PPV متساوية لكلا المجموعتين، فسيكون له كذلك قيمة FDR متساوية، مما يلبي الصيغة:

من جانب آخر، رياضيا، إذا كان المصنف له FPR متساوي لكلا المجموعتين، فسيكون له كذلك TNR متساوي، مما يلبي الصيغة:

وفي السياق ذاته، التكافؤ التنبؤي، ويشار إليه كذلك باسم اختبار النتيجة. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية قيمة PPV متساوية. وهذا إذا تم استيفاء الصيغة التالية:

ومن جهة أخرى، معدل خطأ سلبي كاذب، ويشار إليه كذلك باسم تكافؤ الفرص. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية معدل FNR متساوٍ. وهذا إذا تم استيفاء الصيغة التالية:

وعلى صعيد آخر، معايرة البئر هي امتداد للتعريف السابق. تنص على أنه عندما يكون لدى الأفراد داخل المجموعة المحمية أو خارجها نفس درجة الاحتمالية المتوقعة يجب أن يكون لديهم نفس احتمالية تصنيفهم في الفئة الإيجابية، ويجب أن يكون هذا الاحتمال مساويًا لـ :

من جهة ثانية، لا تأخذ هذه التعريفات بعين الاعتبار النتيجة المتوقعة فحسب ولكن قارنها كذلك بالنتيجة الفعلية .

إضافةً إلى ذلك، المساواة في الدقة الشاملة. يلبي المصنف هذا التعريف إذا كان للموضوع في المجموعتين المحمية وغير المحمية دقة تنبؤ متساوية، أي احتمال تعيين موضوع من فئة واحدة له. وهذا إذا كان يلبي الصيغة التالية:

ومن جهة أخرى، عدالة الاختبار، والمعروفة كذلك باسم المعايرة أو مطابقة الترددات الشرطية. يفي المصنف بهذا التعريف إذا كان لدى الأفراد نفس درجة الاحتمالية المتوقعة لديهم نفس احتمالية التصنيف في الفئة الإيجابية عندما ينتمون إلى المجموعة المحمية أو غير المحمية:

علاوةً على ذلك، التوازن للفئة السلبية. يفي المصنف بهذا التعريف إذا كان للموضوعات التي تشكل الفئة السلبية من كل من المجموعتين المحمية وغير المحمية متوسط درجات احتمالية متوقعة متساوية . وهذا يعني أن القيمة المتوقعة لدرجة الاحتمالية للمجموعات المحمية وغير المحمية ذات النتيجة الفعلية السلبية هو نفسه، ويلبي الصيغة:

من جهة ثانية، هذه التعريفات مبنية على النتيجة الفعلية والنتيجة الاحتمالية المتوقعة .

كذلك، التوازن للفئة الإيجابية. يفي المصنف بهذا التعريف إذا كان لدى الأشخاص الذين يشكلون الفئة الإيجابية من كل من المجموعتين المحمية وغير المحمية متوسط درجات احتمالية متوقعة متساوية . وهذا يعني أن القيمة المتوقعة لدرجة الاحتمالية للمجموعات المحمية وغير المحمية ذات النتيجة الفعلية الإيجابية هو نفسه، ويلبي الصيغة:

علاوةً على ذلك، ، والتي يشار إليها كذلك باسم مساواة دقة الإجراء الشرطي والمعاملة غير المتجانسة. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية TPR متساوٍ وFPR متساوٍ، مما يلبي الصيغة:

من جهة ثانية، رياضيا، إذا كان المصنف لديه FNR متساوي لكلا المجموعتين، فسيكون لديه كذلك TPR متساوي، مما يلبي الصيغة:

في هذا الإطار، مساواة دقة الاستخدام الشرطي. يفي المصنف بهذا التعريف إذا كان لدى الكائنات في المجموعات المحمية وغير المحمية نفس القيمة التنبؤية والقيمة الحالية الصافية، مما يلبي الصيغة:

وفي هذا السياق، توازن معدل الخطأ الإيجابي الكاذب، ويشار إليه كذلك بالمساواة التنبؤية. يفي المصنف بهذا التعريف إذا كان للموضوعات في المجموعات المحمية وغير المحمية معدل استجابة مرضية متساوٍ. وهذا إذا تم استيفاء الصيغة التالية:

التعاريف المبنية على الاحتمالات المتوقعة والنتيجة الفعلية

السياق

وفي هذا الصدد، من المهم أن نلاحظ أن المناقشة حول الطرق الكمية لاختبار العدالة والتمييز غير العادل في عملية صنع القرار تسبق بعدة عقود المناقشة الحديثة حول العدالة في التعلم الآلي. في واقع الأمر، ازدهرت مناقشة حية لهذا الموضوع من جانب المجتمع العلمي خلال منتصف الستينيات والسبعينيات، ويرجع ذلك في الأغلب إلى حركة الحقوق المدنية الأميركية، وعلى وجه الخصوص إقرار قانون الحقوق المدنية الأميركي لعام 1964. ومع ذلك، بحلول نهاية سبعينيات القرن العشرين، اختفى النقاش إلى حد كبير، حيث لم تترك المفاهيم المختلفة والمتنافسة في بعض الأحيان للعدالة سوى مجال ضئيل للوضوح حول متى قد يكون أحد مفاهيم العدالة مفضلاً على آخر.

وفي هذا السياق، في السنوات الأخيرة، قامت شركات التكنولوجيا بإعداد أدوات ودليل حول كيفية اكتشاف التحيز والحد منه في التعلم الآلي. تحتوي شركة آي بي إم على أدوات لـ بايثون وآر مع الكثير من الخوارزميات لتقليل تحيز البرامج وزيادة عدالتها. نشرت جوجل إرشادات وأدوات لدراسة التحيز ومكافحته في التعلم الآلي. أبلغت شركة فيسبوك عن استخدامها لأداة تُدعى تدفق العدالة للكشف عن التحيز في الذكاء الاصطناعي الخاص بها. ومع ذلك، فقد زعم المنتقدون أن جهود الشركة غير كافية، حيث أفادوا بقلة استخدام الأداة من قبل الموظفين حيث لا يمكن استخدامها لجميع برامجهم وحتى عندما يمكن استخدامها، فإن استخدام الأداة اختياري.

وفي هذا الصدد، إن المناقشة حول العدالة في التعلم الآلي هي موضوع حديث نسبيًا. منذ عام 2016 كان هناك زيادة حادة في الأبحاث حول هذا الموضوع. يمكن أن يُعزى هذا الارتفاع جزئيًا إلى تقرير مؤثر صادر عن بروبابليكا والذي زعم أن برنامج كومبس، المستعمل على نطاق واسع في المحاكم الأمريكية للتنبؤ بالعودة إلى الجريمة، كان متحيزًا عنصريًا. أحد مواضيع البحث والمناقشة هو تعريف العدالة، حيث لا يوجد تعريف عالمي، ويمكن أن تتناقض التعريفات المختلفة مع بعضها البعض، مما يجعل من الصعب الحكم على نماذج التعلم الآلي. تتضمن موضوعات البحث الأخرى أصول التحيز، وأنواع التحيز، وطرق الحد من التحيز.

الانفصال

ومن ناحية أخرى، من الممكن تخفيف التعريفات المقدمة من خلال السماح بقيمة الفرق بين المعدلات بأن تكون أقل من فترة تراخي معينة برقم موجب. ، بدلاً من أن يساوي الصفر.

إضافةً إلى ذلك، هناك تعبير مكافئ آخر، في حالة معدل الهدف الثنائي، وهو أن معدل الإيجابية الحقيقية ومعدل الإيجابية الكاذبة متساويان (وبالتالي فإن معدل السلبية الكاذبة ومعدل السلبية الحقيقية متساويان) لكل قيمة من الخصائص الحساسة:

علاوةً على ذلك، نقول المتغيرات العشوائية إرضاء الفصل إذا كانت الخصائص الحساسة مستقلة إحصائيًا عن التنبؤ بالنظر إلى القيمة المستهدفة ، ونحن نكتب ويمكننا كذلك التعبير عن هذا المفهوم بالصيغة التالية: وهذا يعني أن كل اعتماد القرار حول السمة الحساسة يجب تبريره بالاعتماد الفعلي للمتغير المستهدف الحقيقي .

علاوةً على ذلك، كلما كان معامل الفصل هذا أكبر عند قيمة درجة معينة، كلما كان النموذج أكثر فعالية في التمييز بين مجموعة الإيجابيات والسلبيات عند حد احتمال معين. بحسب مايز: "يُلاحظ غالبًا في قطاع الائتمان أن اختيار مقاييس التحقق يعتمد على نهج النمذجة. مثلًا، إذا كان إجراء النمذجة معياريًا أو شبه معياري، فغالبًا ما يُستعمل اختبار كولموغوروف-سميرنوف لعينتين. إذا تم اشتقاق النموذج من خلال طرق البحث الاستدلالية أو التكرارية، فإن مقياس أداء النموذج عادةً ما يكون التباعد. الخيار الثالث هو معامل الفصل... ويبدو معامل الفصل، مقارنةً بالطريقتين الأخريين، الأكثر منطقية كمقياس لأداء النموذج لأنه يعكس نمط الفصل في النموذج."

كذلك، في بعض المجالات، يكون الفصل (معامل الفصل) في مصفوفة الارتباك مقياسًا للمسافة (عند مستوى معين من درجة الاحتمالية) بين النسبة المئوية التراكمية السلبية المتوقعة والنسبة المئوية التراكمية الإيجابية المتوقعة.

الاستقلال

وأخيرًا، هناك إمكانية أخرى للاسترخاء وهي المطالبة .

إضافةً إلى ذلك، قد يتضمن التخفيف المحتمل لتعريف الاستقلال إدخال تراخي إيجابي ويتم إعطاؤها بالصيغة:

وفي السياق ذاته، نقول المتغيرات العشوائية إرضاء الاستقلال إذا كانت الخصائص الحساسة مستقلة إحصائيًا عن التنبؤ ، ونحن نكتب ويمكننا كذلك التعبير عن هذا المفهوم بالصيغة التالية: وهذا يعني أن معدل التصنيف لكل فئات الهدف متساوٍ للأشخاص المنتمين إلى مجموعات مختلفة فيما يتعلق بالخصائص الحساسة .

وعلى صعيد آخر، يمكن إعطاء تعبير مكافئ آخر للاستقلال باستخدام مفهوم المعلومات المتبادلة بين المتغيرات العشوائية، والذي يُعرَّف بأنه في هذه الصيغة، هي إنتروبيا المتغير العشوائي . ثم إرضاء الاستقلال إذا .

استراتيجيات التخفيف من التحيز

ومن جهة أخرى، يمكن تطبيق العدالة على خوارزميات التعلم الآلي بثلاث طرق مختلفة: معالجة البيانات مسبقًا، أو التحسين أثناء تدريب البرنامج، أو معالجة نتائج الخوارزمية لاحقًا.

الخلافات

وفي هذا السياق، لقد كان استخدام عملية اتخاذ القرار الخوارزمية في النظام القانوني مجالًا بارزًا للاستخدام قيد التدقيق. في عام 2014، أثار المدعي العام الأمريكي آنذاك إريك هولدر مخاوف من أن أساليب "تقييم المخاطر" قد تركز بشكل غير مبرر على عوامل خارجة عن سيطرة المتهم، مثل مستواه التعليمي أو خلفيته الاجتماعية والاقتصادية. زعم تقرير عام 2016 الذي أعدته بروبابليكا حول كومبس أن المتهمين السود كانوا أكثر عرضة بمرتين على وجه التقريب لتصنيفهم بشكل غير صحيح على أنهم أكثر خطورة من المتهمين البيض، بينما ارتكبوا الخطأ المعاكس مع المتهمين البيض. وقد طعن منشئ كومبس، شركة نورث بوينت، في التقرير، مدعيًا أن أداة الشركة عادلة وأن بروبابليكا ارتكبت أخطاء إحصائية، وهو ما دحضته بروبابليكا مرة أخرى لاحقًا.

من جانب آخر، وقد لوحظ كذلك التحيز العنصري والجنساني في خوارزميات التعرف على الصور. لقد تبين أن الكشف عن الوجه والحركة في الكاميرات يتجاهل أو يخطئ في تسمية تعبيرات الوجه للأشخاص غير البيض. في عام 2015، اعتذرت شركة جوجل بعد أن قامت خدمة جوجل صور عن طريق الخطأ بتصنيف زوجين من السود على أنهما غوريلا. وبالمثل، وجد أن ميزة وضع العلامات التلقائية على موقع فليكر قد وصفت بعض السود بأنهم "قردة" و"حيوانات". وُجِد أن مسابقة الجمال الدولية لعام 2016 التي تم الحكم عليها بواسطة خوارزمية الذكاء الاصطناعي كانت متحيزة تجاه الأفراد ذوي البشرة الفاتحة، ويرجع ذلك على الأرجح إلى التحيز في بيانات التدريب. وجدت دراسة أجريت على ثلاث خوارزميات تصنيف جنساني تجارية في عام 2018 أن الخوارزميات الثلاث كانت الأكثر دقة بشكل عام عند تصنيف الذكور ذوي البشرة الفاتحة والأسوأ عند تصنيف الإناث ذوات البشرة الداكنة. في عام 2020، أظهرت أداة قص الصور من تويتر تفضيلها للوجوه ذات البشرة الفاتحة. في عام 2022، أوضح مبتكرو نموذج تحويل النص إلى صورة دال-إي 2 أن الصور المولدة كانت نمطية إلى حدّ كبير، بناءً على سمات مثل الجنس أو العرق.

إضافةً إلى ذلك، وتشمل المجالات الأخرى التي تستعمل فيها خوارزميات التعلم الآلي، والتي ثبت أنها متحيزة، طلبات التوظيف والقروض. استعملت أمازون برامج لمراجعة طلبات التوظيف كانت متحيزة ضد المرأة، مثلًا من خلال معاقبة السير الذاتية التي تضمنت كلمة "نساء". في سنة 2019، أعطت خوارزمية أبل لتحديد حدود بطاقات الائتمان لبطاقة بطاقة أبل الجديدة حدودًا أعلى بكثير للذكور مقارنة بالإناث، حتى بالنسبة للأزواج الذين يتشاركون أموالهم. أظهرت دراسة أجرتها شركة في عام 2021 أن خوارزميات الموافقة على الرهن العقاري المستعملة في الولايات المتحدة أكثر عرضة لرفض المتقدمين غير البيض.

وظيفة الرعاية الاجتماعية

من جهة ثانية، وقد اقترح بعض العلماء تعريف العدالة الخوارزمية من حيث دالة الرعاية الاجتماعية. يزعمون أن استخدام دالة الرعاية الاجتماعية يمكّن مصمم الخوارزمية من مراعاة العدالة والدقة التنبؤية من حيث فوائدها للأشخاص المتأثرين بالخوارزمية. كما يسمح للمصمم بالموازنة بين الكفاءة والإنصاف بطريقة مبدئية. صرح أن مصممي الخوارزميات يجب أن يستعملوا وظائف الرعاية الاجتماعية للتعرف على المكاسب المطلقة للمجموعات المحرومة. مثلًا، وجدت إحدى الدراسات أن استخدام خوارزمية صنع القرار في الاحتجاز قبل المحاكمة بدلاً من الحكم البشري المحض أدى إلى تقليل معدلات الاحتجاز للسود والأسبان والأقليات العرقية بشكل عام، حتى مع الحفاظ على معدل الجريمة ثابتًا.

التحيز الجنسي

في هذا الإطار، يشير التحيز الجنسي إلى ميل هذه النماذج إلى إنتاج مخرجات تتسم بالتحيز ضد جنس على حساب آخر. وينشأ هذا التحيز عادةً من البيانات التي تُدرَّب عليها هذه النماذج. مثلًا، غالبًا ما تُحدِّد نماذج اللغات الكبيرة الأدوار والخصائص بناءً على معايير النوع الاجتماعي التقليدية؛ فقد تربط الممرضات أو السكرتيرات بالنساء في الغالب، والمهندسين أو الرؤساء التنفيذيين بالرجال.

إعادة الوزن

ومن ناحية أخرى، عندما يكون لدينا لكل الوزن المرتبط نحن نحسب التمييز المرجح فيما يتعلق بالمجموعة على النحو التالي:

وفي هذا الصدد، إذا كانت مجموعة البيانات كان المتغير الحساس غير متحيز والمتغير المستهدف سيكون مستقلاً إحصائيًا واحتمال سيكون حاصل ضرب الاحتمالات على النحو التالي:

ومن ناحية أخرى، لكن في الواقع، مجموعة البيانات ليست غير متحيزة والمتغيرات ليست مستقلة إحصائيًا، لذا فإن الاحتمالية الملحوظة هي:

وفي هذا الصدد، لتعويض التحيز، يضيف البرنامج وزنًا أقل للأشياء المفضلة ووزنًا أعلى للأشياء غير المفضلة. لكل نحن نحصل على:

في هذا الإطار، ويمكن إظهار أنه بعد إعادة الترجيح فإن هذا التمييز المرجح يساوي 0.

من جانب آخر، إعادة الوزن مثال على خوارزمية المعالجة المسبقة. الفكرة هي تحديد وزن لكل نقطة في مجموعة البيانات بحيث يكون التمييز المرجح صفرًا بالنسبة للمجموعة المحددة.

معايير العدالة الفردية

إضافةً إلى ذلك، هناك نهج بديهي للغاية للعدالة، والذي يُطلق عليه عادةً اسم العدالة من خلال عدم الوعي (FTU)، أو العمى، والذي ينص على عدم استخدام الميزات الحساسة بشكل صريح عند اتخاذ القرارات (الآلية). وهذا في الواقع مفهوم للعدالة الفردية، حيث أن فردين يختلفان فقط في قيمة سماتهما الحساسة سوف يحصلان على نفس النتيجة.

إضافةً إلى ذلك، إن مشكلة تحديد المتغيرات المرتبطة بالمتغيرات الحساسة والتي يمكن استخدامها بشكل عادل من قبل النموذج في عملية صنع القرار هي مشكلة حاسمة، وهي ذات صلة بمفاهيم المجموعة كذلك: تتطلب مقاييس الاستقلال الإزالة الكاملة للمعلومات الحساسة، في حين تسمح المقاييس القائمة على الفصل بالارتباط، ولكن فقط بقدر ما يبررها المتغير المستهدف المسمى.

إضافةً إلى ذلك، ومع ذلك، بشكل عام، تواجه وحدة التقييم الذاتي (FTU) الكثير من العيوب، أهمها أنها لا تأخذ في الاعتبار الارتباطات المحتملة بين السمات الحساسة والسمات غير الحساسة المستعملة في عملية صنع القرار. مثلًا، يمكن لوكيل ذي نية (خبيثة) للتمييز على أساس الجنس أن يُدخل في النموذج متغيرًا بديلًا للجنس (أي متغير مرتبط ارتباطًا وثيقًا بالجنس) ويستعمل معلومات الجنس بفعالية مع الالتزام بمعايير وحدة التقييم الذاتي (FTU).

إضافةً إلى ذلك، تم تقديم المفهوم الأكثر عمومية للعدالة الفردية في العمل الرائد الذي قامت به سينثيا دورك وزملاؤها في عام 2012 ويمكن اعتباره ترجمة رياضية لمبدأ أن خريطة القرار التي تأخذ الميزات كمدخلات يجب بناؤها بحيث تكون قادرة على "رسم خريطة للأفراد المتشابهين على نحو مماثل"، وهذا يتم التعبير عنه على خريطة النموذج. ويطلقون على هذا النهج اسم العدالة من خلال الوعي (FTA)، على وجه التحديد كنقطة مقابلة لاسم العدالة من خلال الوعي، حيث يؤكدون على أهمية اختيار مقياس المسافة المناسب المرتبط بالهدف لتقييم الأفراد المتشابهين في مواقف محددة. مرة أخرى، ترتبط هذه المشكلة ارتباطًا وثيقًا بالنقطة التي أثيرت أعلاه حول المتغيرات التي يمكن اعتبارها "مشروعة" في سياقات معينة.

إضافةً إلى ذلك، إن التمييز المهم بين تعريفات العدالة هو التمييز بين المفاهيم الجماعية والفردية. بشكل عام، بينما تُقارن معايير الإنصاف الجماعي الكميات على مستوى المجموعة، والتي تُحدد عادةً بخصائص حساسة (مثل الجنس، والعرق، والعمر، إلخ)، تُقارن المعايير الفردية الأفراد. باختصار، تتبع معايير الإنصاف الفردي مبدأ "أن يُعامل الأفراد المتشابهون معاملةً مماثلة".

المعالجة المسبقة

إضافةً إلى ذلك، تم شرح مثال في زيميل وآخرون. حيث تم استخدام كتمثيل وسيط. وفي هذه العملية، يتم تشجيع النظام على الحفاظ على جميع المعلومات باستثناء تلك التي يمكن أن تؤدي إلى قرارات متحيزة، والحصول على تنبؤ دقيق قدر الإمكان.

علاوةً على ذلك، عادةً، لا يكون المصنف هو المشكلة الوحيدة؛ بل إن مجموعة البيانات متحيزة كذلك. التمييز في مجموعة البيانات فيما يتعلق بالمجموعة يمكن تعريفها على النحو التالي:

علاوةً على ذلك، إحدى طرق القيام بذلك هي ربط كل فرد في مجموعة البيانات الأولية بتمثيل وسيط، حيث يستحيل تحديد ما إذا كان ينتمي إلى مجموعة محمية معينة مع الحفاظ على أكبر قدر ممكن من المعلومات. لاحقًا، يُعدّل التمثيل الجديد للبيانات للحصول على أقصى دقة في الخوارزمية.

في هذا الإطار، وهذا يعني على وجه التقريب الفرق بين احتمالات الانتماء إلى الفئة الإيجابية نظرًا لأن الموضوع يتمتع بسمة محمية مختلفة عن ويساوي .

في هذا الإطار، بهذه الطريقة، تُربط الأفراد بتمثيل جديد متعدد المتغيرات، حيث يكون احتمال ربط أي فرد في مجموعة محمية بقيمة معينة في التمثيل الجديد مساويًا لاحتمالية عدم انتمائه إلى المجموعة المحمية. فيما بعد، يُستعمل هذا التمثيل للحصول على التنبؤ الخاص بالفرد، بدلاً من البيانات الأولية. وبما أن التمثيل الوسيط مُصمم بحيث يُعطي نفس الاحتمال للأفراد داخل المجموعة المحمية أو خارجها، فإن هذه السمة تكون مخفية عن المصنف.

وفي هذا الصدد، تزيل خوارزميات تصحيح التحيز في المعالجة المسبقة المعلومات المتعلقة بمتغيرات مجموعة البيانات، مما قد يؤدي إلى قرارات غير عادلة، مع محاولة تقليل التغييرات قدر الإمكان. ليس الأمر ببساطة إزالة المتغير الحساس فحسب، إذ يمكن ربط سمات أخرى بالمتغير المحمي.

إضافةً إلى ذلك، من ناحية أخرى، تتمتع هذه العملية بميزة إمكانية استخدام البيانات المعالجة مسبقًا لأي مهمة تعلُّم آلي. علاوة على ذلك، لا يلزم تعديل المصنف، حيث يتم تطبيق التصحيح على مجموعة البيانات قبل المعالجة. ومن ناحية أخرى، فإن الطرق الأخرى تحقق نتائج أفضل من حيث الدقة والإنصاف.

التحيز السياسي

في هذا الإطار، يشير التحيز السياسي إلى ميل الخوارزميات إلى تفضيل وجهات نظر أو أيديولوجيات أو نتائج سياسية معينة بشكل منهجي على غيرها. وقد تُظهر نماذج اللغة كذلك تحيزات سياسية. ونظرًا لأن بيانات التدريب تشمل نطاقًا واسعًا من الآراء والتغطية السياسية، فقد تُنتج النماذج استجابات تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، وذلك حسب انتشار تلك الآراء في البيانات.

إزالة التحيز العدائي

كذلك، الفكرة البديهية هي أننا نريد من المتنبئ أن يحاول التقليل (لذلك فإن المصطلح ) وفي الوقت نفسه، قم بتعظيم (لذلك فإن المصطلح )، بحيث يفشل الخصم في التنبؤ بالمتغير الحساس من .

وعلى صعيد آخر، نقوم بتدريب مصنفين في نفس الوقت من خلال بعض الطرق المعتمدة على التدرج (fe: الانحدار التدرجي). الأول، يحاول المتنبئ إنجاز مهمة التنبؤ ، المتغير المستهدف، معطى ، المدخلات، عن طريق تعديل أوزانها لتقليل بعض فقدان الوظيفة . الثاني، أن يحاول الخصم إنجاز مهمة التنبؤ ، المتغير الحساس، معطى عن طريق تعديل أوزانها لتقليل بعض فقدان الوظيفة . النقطة المهمة هنا هي أنه لنشر المعلومات بشكل صحيح، يجب أن يشير ما سبق إلى الناتج الخام للمصنف، وليس التنبؤ المنفصل؛ مثلًا، مع الشبكة العصبية الاصطناعية ومشكلة التصنيف، قد يشير إلى إخراج طبقة سوفت ماكس.

وعلى صعيد آخر، ثم نقوم بالتحديث للتقليل في كل خطوة تدريبية بحسب التدرج ونحن نعدل بحسب التعبير: أين هي قابلة للضبط ويمكن أن تتغير في كل خطوة زمنية.

من جهة ثانية، يمكن إثبات أن تدريب نموذج تصنيف التنبؤ باستخدام هذه الخوارزمية يحسن التكافؤ الديموغرافي فيما يتعلق بتدريبه بدون الخصم.

في هذا الإطار، على المدى يمنع المتنبئ من التحرك في اتجاه يساعد الخصم على تقليل دالة الخسارة الخاصة به.

الكفاية

وفي هذا الصدد، نقول المتغيرات العشوائية تلبية الكفاية إذا كانت الخصائص الحساسة مستقلة إحصائيًا عن القيمة المستهدفة بالنظر إلى التنبؤ ، ونحن نكتب ويمكننا كذلك التعبير عن هذا المفهوم بالصيغة التالية: وهذا يعني أن احتمال التواجد فعليًا في كل من المجموعات متساوٍ بالنسبة لشخصين يتمتعان بخصائص حساسة مختلفة نظرًا لأنه من المتوقع أن ينتميا إلى نفس المجموعة.

الارتباك المتساوي والعدالة

وعلى صعيد آخر، مفهوم الارتباك المتساوي والعدالة يتطلب الأمر أن يكون لمصفوفة الارتباك لنظام قرار معين نفس التوزيع عند حسابها طبقيًا على جميع الخصائص الحساسة.

  • الاستقلال: (TP + FP) / (TP + FP + FN + TN) (أي، ).
  • الفصل: TN / (TN + FP) و TP / (TP + FN) (أي الخصوصية وتذكر ).
  • الكفاية: TP / (TP + FP) و TN / (TN + FN) (أي الدقة والقيمة التنبؤية السلبية ).

ومن جهة أخرى، فيما يتعلق بمصفوفات الارتباك، فإن الاستقلال والفصل والكفاية تتطلب أن لا يكون للكميات المذكورة أدناه اختلافات ذات دلالة إحصائية عبر الخصائص الحساسة.

رفض التصنيف القائم على الخيار

نحن نقول "هي "حالة مرفوضة" إذا مع بعض مثل ذلك .

إضافةً إلى ذلك، معطى المصنف دعونا يكون الاحتمال الذي تم حسابه بواسطة المصنفات هو احتمال أن تكون المثيل ينتمي إلى الفئة الإيجابية +. متى قريبة من 1 أو 0، المثيل تم تحديده بدرجة عالية من اليقين بأنه ينتمي إلى الفئة + أو - على التوالي. ومع ذلك، عندما أقرب إلى 0.5، التصنيف غير واضح.

  • انظر كذلك
  • تحيز خوارزمي
  • تعلم الآلة

وفي هذا السياق، تتكون خوارزمية "منحنى الخصائص التشغيلية للمستقبل" من تصنيف الحالات غير المرفوضة بحسب القاعدة أعلاه والحالات المرفوضة على النحو التالي: إذا كانت الحالة عبارة عن مثال لمجموعة محرومة ثم قم بتسميتها بأنها إيجابية، وإلا، قم بتسميتها بأنها سلبية.

إضافةً إلى ذلك، يمكننا تحسين مقاييس مختلفة للتمييز (رابط) كوظائف للعثور على الحل الأمثل لكل مشكلة وتجنب التمييز ضد المجموعة المتميزة.

المقاييس القائمة على السببية

إضافةً إلى ذلك، يقيس الإنصاف السببي التردد الذي يتلقى به مستعملان أو تطبيقان متطابقان على وجه التقريب يختلفان فقط في مجموعة من الخصائص التي يجب أن يكون تخصيص الموارد من خلالها عادلاً، نفس المعاملة.

السمات الحساسة ،

ومن جهة أخرى، غالبًا ما يتم تدريب نماذج التعلم الآلي على البيانات حيث تعتمد النتيجة على القرار المتخذ في ذلك الوقت. مثلًا، إذا كان على نموذج التعلم الآلي تحديد ما إذا كان السجين سيعود إلى الإجرام، وتحديد ما إذا كان ينبغي إطلاق سراحه مبكرًا، فقد تعتمد النتيجة على ما إذا كان قد أُطلق سراحه مبكرًا أم لا. ميشلر وآخرون. اقترح صيغة لمعادلة الاحتمالات الافتراضية:

إضافةً إلى ذلك، الوسطاء بين و ، تمثل التأثيرات غير المباشرة المحتملة للسمات الحساسة على النتيجة،

المتغير المستهدف ،

من جانب آخر، يقترح بليكو وبارينبويم إطارًا موحدًا للتعامل مع التحليل السببي للعدالة. يقترحون استخدام نموذج العدالة القياسي، الذي يتكون من رسم بياني سببي مع 4 أنواع من المتغيرات:

في هذا الإطار، وهذا يعني: أخذ فرد عشوائي ذو سمة حساسة وميزات أخرى ونفس الفرد إذا كان لديها ، ينبغي أن يكون لديهم نفس فرص القبول. الرمز يمثل المتغير العشوائي المضاد للواقع في السيناريو حيث السمة الحساسة تم إصلاحه إلى . التكييف على وهذا يعني أن هذا المطلب هو على المستوى الفردي، حيث أننا نشترط جميع المتغيرات التي تحدد ملاحظة واحدة.

وعلى صعيد آخر، في هذا الإطار، تمكن بليكو وبارينبويم من تصنيف التأثيرات المحتملة التي قد تخلفها السمات الحساسة على النتيجة. وعلاوة على ذلك، فإن التفصيل الذي يتم به قياس هذه التأثيرات ــ أي متغيرات التكييف المستعملة لمتوسط التأثير—يرتبط ارتباطاً مباشراً بجانب "الفرد مقابل المجموعة" في تقييم العدالة.

وفي السياق ذاته، المتغيرات التي قد تشترك في سبب مشترك مع ، والتي تمثل التأثيرات الزائفة المحتملة (أي غير السببية) للسمات الحساسة على النتيجة.

وفي هذا السياق، أين هو متغير عشوائي يدل على النتيجة نظرا لأن القرار تم التقاطها، و هي ميزة حساسة.

ومن جهة أخرى، يقترح كوسنر وآخرون استخدام ، وتحديد عملية صنع القرار على أنها عادلة من الناحية المضادة للواقع إذا لم تتغير النتيجة بالنسبة لأي فرد في السيناريو المضاد للواقع حيث تتغير السمات الحساسة. الصيغة الرياضية تنص على:

في هذا الإطار، يُخصص فرع كامل من البحث الأكاديمي حول مقاييس العدالة للاستفادة من النماذج السببية لتقييم التحيز في نماذج التعلم الآلي. عادة ما يتم تبرير هذا النهج بحقيقة مفادها أن نفس التوزيع الرصدي للبيانات قد يخفي علاقات سببية مختلفة بين المتغيرات المؤثرة، وربما مع تفسيرات مختلفة لما إذا كانت النتيجة تتأثر ببعض أشكال التحيز أم لا.

معايير العدالة الجماعية

ومن ناحية أخرى، التنبؤ بالمصنف. الآن دعونا نحدد ثلاثة معايير رئيسية لتقييم ما إذا كان المصنف المعطى عادلاً، أي ما إذا كانت تنبؤاته لا تتأثر ببعض هذه المتغيرات الحساسة.

إضافةً إلى ذلك، في مشاكل التصنيف، تتعلم الخوارزمية دالة للتنبؤ بخاصية منفصلة ، المتغير المستهدف، من الخصائص المعروفة . نحن نمذج كمتغير عشوائي منفصل يشفر بعض الخصائص المضمنة أو المشفرة ضمناً في التي نعتبرها خصائص حساسة (الجنس، العرق، التوجه الجنسي، وما إلى ذلك). ونشير أخيرا إلى ذلك بـ

التعاريف الأولية

كذلك، معدل النتائج السلبية الكاذبة (FNR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل خاطئ بأنها سلبية من بين جميع الحالات الإيجابية. يمثل هذا احتمال تصنيف الحالات الإيجابية بشكل خاطئ على أنها سلبية، ويُعطى بالصيغة التالية:

إضافةً إلى ذلك، معدل النتائج الإيجابية الكاذبة (FPR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل خاطئ بأنها إيجابية من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل خاطئ على أنها إيجابية، ويُعطى بالصيغة التالية:

وفي هذا السياق، لتحديد هذه التدابير على وجه التحديد، سوف نقسمها إلى ثلاث مجموعات كبيرة كما فعلت في فيرما وآخرون: التعاريف القائمة على النتيجة المتوقعة، والنتائج المتوقعة والفعلية، والتعريفات القائمة على الاحتمالات المتوقعة والنتيجة الفعلية.

من جانب آخر، سنعمل مع مصنف ثنائي والترميز التالي: يشير إلى الدرجة التي يمنحها المصنف، والتي تمثل احتمالية وجود موضوع معين في الفئة الإيجابية أو السلبية. يمثل التصنيف النهائي الذي تنبأت به الخوارزمية، وعادةً ما يتم اشتقاق قيمته من ، مثلًا سيكون إيجابيا عندما فوق حد معين. يمثل النتيجة الفعلية، أي التصنيف الحقيقي للفرد، وأخيرًا، يشير إلى السمات الحساسة للموضوعات.

علاوةً على ذلك، سلبي كاذب (FN) : الحالة التي من المتوقع أن تكون في فئة السلبية مع نتيجة فعلية تكون في فئة الإيجابية.

في هذا الإطار، معدل الإغفال الكاذب (FOR): نسبة التنبؤات السلبية الإيجابية من بين جميع التنبؤات السلبية. يمثل هذا المعدل احتمالية حدوث تنبؤ سلبي خاطئ، ويُحسب بالصيغة التالية:

علاوةً على ذلك، القيمة المتوقعة الإيجابية (PPV): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع التنبؤات الإيجابية. تُعرف عادةً بالدقة، وتمثل احتمالية صحة التنبؤ الإيجابي. تُعطى بالصيغة التالية:

من جانب آخر، معدل السلبية الحقيقي (TNR): نسبة الحالات السلبية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات السلبية. يمثل هذا احتمال تصنيف الحالات السلبية بشكل صحيح على هذا النحو، ويُعطى بالصيغة التالية:

من جهة ثانية، يمكن فهم المعايير التالية باعتبارها مقاييس للتعريفات العامة الثلاثة الواردة في بداية هذا القسم، وهي الاستقلال والانفصال والكفاية. وفي الجدول على اليمين، يمكننا رؤية العلاقات بينهما.

علاوةً على ذلك، وباستخدام هذه العلاقات، يمكننا تحديد مقاييس متعددة يمكن استخدامها لاحقًا لقياس مدى عدالة الخوارزمية:

وعلى صعيد آخر، القيمة المتوقعة السلبية (NPV): نسبة الحالات السلبية التي تم التنبؤ بها بشكل صحيح من بين جميع التنبؤات السلبية. وهي تمثل احتمالية صحة التنبؤ السلبي، وتُحسب بالصيغة التالية:

كذلك، معدل الإيجابية الحقيقية (TPR): نسبة الحالات الإيجابية التي تم التنبؤ بها بشكل صحيح من بين جميع الحالات الإيجابية. يُشار إليه عادةً باسم الحساسية أو التذكر، ويمثل احتمال تصنيف الحالات الإيجابية بشكل صحيح على هذا النحو. ويُعطى بالصيغة التالية:

وفي هذا الصدد، يمكن تمثيل هذه العلاقات بسهولة باستخدام مصفوفة الارتباك، وهو جدول يصف دقة نموذج التصنيف. في هذه المصفوفة، تمثل الأعمدة والصفوف حالات من المتوقع حدوثها والحالات الفعلية على التوالي.

إضافةً إلى ذلك، إيجابية كاذبة (FP) : هي الحالة التي من المتوقع أن تقع ضمن فئة إيجابية تم تعيينها في النتيجة الفعلية إلى الفئة السلبية.

وفي السياق ذاته، تعتمد أغلب المقاييس الإحصائية للعدالة على مقاييس مختلفة، لذا سنبدأ بتعريفها. عند استخدام مُصنِّف ثنائي، يمكن أن تأخذ كلٌّ من الفئتين المُتنبَّأة والفعلية قيمتين: موجبة وسالبة. لنبدأ الآن بشرح العلاقات المُحتملة بين النتيجة المُتنبَّأة والنتيجة الفعلية:

في هذا الإطار، معدل الاكتشاف الخاطئ (FDR): نسبة التنبؤات الإيجابية التي كانت سلبية بالفعل من بين جميع التنبؤات الإيجابية. يمثل هذا المعدل احتمالية حدوث تنبؤ إيجابي خاطئ، ويُحسب بالصيغة التالية:

من جهة ثانية، النتيجة الإيجابية الحقيقية (TP) : هي الحالة التي تكون فيها النتيجة المتوقعة والفعلية ضمن فئة إيجابية.

وفي هذا السياق، سلبي حقيقي (TN) : الحالة التي يتم فيها تعيين كل من النتيجة المتوقعة والنتيجة الفعلية إلى الفئة السلبية.

جاري المعالجة

ومن ناحية أخرى، المقاييس الرئيسية المستعملة في هذا النهج هي معدل الإيجابيات الكاذبة، ومعدل السلبيات الكاذبة، ومعدل التصنيف الخاطئ الإجمالي. من الممكن إضافة قيد واحد أو أكثر من هذه القيود إلى هدف الخوارزمية. تجدر الإشارة إلى أن تساوي معدلات السلبيات الكاذبة يعني تساوي معدلات الإيجابيات الحقيقية، مما يعني تكافؤ الفرص. بعد إضافة هذه القيود إلى المشكلة، قد تصبح صعبة الحل، لذا قد يلزم تخفيفها.

وفي هذا السياق، هناك نهج آخر يتمثل في تصحيح التحيز أثناء وقت التدريب. يمكن القيام بذلك عن طريق إضافة قيود إلى هدف تحسين الخوارزمية. وتجبر هذه القيود الخوارزمية على تحسين العدالة، من خلال الحفاظ على نفس معدلات بعض التدابير للمجموعة المحمية وبقية الأفراد. مثلًا، يمكننا أن نضيف إلى هدف الخوارزمية الشرط الذي ينص على أن معدل الإيجابيات الكاذبة هو نفسه بالنسبة للأفراد في المجموعة المحمية والأفراد خارج المجموعة المحمية.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.