مرجع
آخر الزيارات

أخلاقيات الذكاء الاصطناعي

7٬574 كلمة•0 مشاهدة•🗒️ منذ 24 يوماً
باختصار: أخلاقيات الذكاء الاصطناعي هي جزء من أخلاقيات التقانة الخاصة بالروبوتات وغيرها من الكائنات الذكية المصطنعة. تتناول المقالة 30 قسماً، منها «المسلسلات التلفزيونية»، «الشفافية» و«التحيز السياسي».
المحتويات
  1. المسلسلات التلفزيونية
  2. الشفافية
  3. التحيز السياسي
  4. المصادر المفتوحة
  5. القوالب النمطية
  6. تهديد الكرامة الإنسانية
  7. حقوق الروبوت
  8. رعاية الذكاء الاصطناعي
  9. المؤسسات المعنية بسياسة وأخلاقيات الذكاء الاصطناعي
  10. التحيز الجنساني
  11. المبادئ الأخلاقية
  12. دور وتأثير الخيال
  13. المشهد العربي والتنظيم الإقليمي
  14. التأثير على التطور التكنولوجي
  15. التاريخ
  16. المبادرات الحكومية
  17. التسليح
  18. أخلاقيات الآلة
  19. هيمنة عمالقة التكنولوجيا
  20. التحيزات الخوارزمية
  21. المبادرات الحكومية الدولية
  22. المبادرات الأكاديمية
  23. الرؤى المستقبلية في الخيال والألعاب
  24. التفرد
  25. الاستخدام المتزايد
  26. المساءلة
  27. التنظيم
  28. المسؤولية عن المركبات ذاتية القيادة
  29. التحيز اللغوي
  30. أخلاقيات الروبوت
أخلاقيات الذكاء الاصطناعي

في البداية، أخلاقيات الذكاء الاصطناعي هي جزء من أخلاقيات التقانة الخاصة بالروبوتات وغيرها من الكائنات الذكية المصطنعة. يمكن تقسيمها إلى أخلاقيات الروبوتات، المتعلقة بالسلوك الأخلاقي للبشر عند تصميم كائنات ذكية مصطنعة وبنائها واستخدامها ومعاملتها، وأخلاقيات الآلات التي تهتم بالسلوك الأخلاقي للوكلاء الأخلاقيين الاصطناعيين (إيه إم إيه إس). بالنسبة لآلات الذكاء العام الاصطناعي (إيه جي أي)، أُجري العمل التمهيدي على نُهج تُدرج آلات الذكاء العام الاصطناعي، التي تعتبر وكلاء أخلاقيون بالمعنى الكامل، في الأطر القانونية والاجتماعية القائمة. وركزت هذا النهج على الاعتبار المزدوج لوضعهم القانوني وحقوقهم. وتعرض الأقسام التالية جوانب أخرى من الموضوع.

المسلسلات التلفزيونية

ومن ناحية أخرى، بينما عٌرضت الأسئلة الأخلاقية المُرتبطة بالذكاء الاصطناعي في أدب الخيال العلمي والأفلام الروائية لعقود من الزمن، فإن ظهور المسلسلات التلفزيونية كنوع يسمح بخطوط قصصية وتطوير شخصيات أطول وأكثر تعقيدًا قد أدى إلى بعض المساهمات الهامة التي تتناول الآثار الأخلاقية للتكنولوجيا. حيث تناول المسلسل السويدي "بشر حقيقيون" (2012-2013) العواقب الأخلاقية والاجتماعية المُعقدة المُرتبطة بدمج الكائنات الواعية الاصطناعية في المجتمع. وكان المسلسل البريطاني المُختار للخيال العلمي المُظلم "المرآة السوداء" (2013-2019) بارزًا بشكل خاص لتجربته مع التطورات الخيالية المُظلمة المُرتبطة بمجموعة واسعة من التطورات التكنولوجية الحديثة. يتناول كل من المسلسل الفرنسي "التناضح" (2020) والمسلسل البريطاني "الواحد" مسألة ما يمكن أن يحدث إذا حاولت التكنولوجيا العثور على الشريك المثالي للشخص. تخيلت الكثير من حلقات مسلسل "الحب والموت والروبوتات" على نتفليكس مشاهد للروبوتات والبشر يعيشون معًا. وأظهرت الحلقة الأولى من الموسم الثاني مدى سوء عواقب خروج الروبوتات عن نطاق السيطرة إذا اعتمد البشر عليها كثيرًا في حياتهم.

الشفافية

وفي السياق ذاته، يؤدي استخدام الأساليب أو التقنيات المعقدة للذكاء الاصطناعي في كثير من الأحيان إلى نماذج تُوصف بأنها "صناديق سوداء" نظرًا لصعوبة فهم كيفية عملها. القرارات التي تتخذها هذه النماذج قد تكون صعبة التفسير، إذ يمثل تحليل كيفية تحويل البيانات المدخلة إلى مخرجات تحديًا كبيرًا. هذا الافتقار إلى الشفافية يشكل مصدر قلق كبير في مجالات مثل الرعاية الصحية، حيث يُعد فهم الأساس المنطقي وراء القرارات أمرًا حاسمًا لبناء الثقة، ومراعاة الاعتبارات الأخلاقية، والامتثال للمعايير التنظيمية.

وفي السياق ذاته، قد تؤدي الأساليب مثل التعلم الآلي باستخدام الشبكات العصبية إلى قيام الحواسيب باتخاذ قرارات لا يستطيع الحاسوب نفسه ولا المطورون تفسيرها. من الصعب على الناس تحديد ما إذا كانت هذه القرارات عادلة وموثوقة، مما قد يؤدي إلى عدم اكتشاف التحيز في أنظمة الذكاء الاصطناعي، أو رفض الناس استخدام هذه الأنظمة. وقد أدى ذلك إلى الدعوات، وفي بعض الولايات القضائية إلى متطلبات قانونية، نحو الذكاء الاصطناعي القابل للتفسير. يشمل الذكاء الاصطناعي القابل للتفسير كلا من القابلية للتفسير والفهم، حيث تتعلق القابلية للتفسير بتلخيص سلوك الشبكات العصبية وبناء ثقة المستعمل، بينما يُعرَّف الفهم بأنه القدرة على إدراك ما قام به النموذج أو ما يمكن أن يقوم به.

التحيز السياسي

وعلى صعيد آخر، قد تُظهر نماذج اللغة تحيزات سياسية تميل نحو أيديولوجيات أو وجهات نظر سياسية معينة، اعتمادًا على انتشار تلك الآراء في بيانات التدريب التي تشمل مجموعة واسعة من الآراء والتغطية السياسية.

المصادر المفتوحة

من جهة ثانية، هناك كذلك مخاوف من أن يؤدي إصدار نماذج الذكاء الاصطناعي إلى إساءة استخدامها. مثلًا، أعربت مايكروسوفت عن قلقها إزاء السماح بالوصول العام إلى برنامجها ل لتعرف على الوجوه، حتى لل م ست ط يعين الذين يمكنهم دفع ثمنه. نشرت مايكروسوفت مدونة حول هذا الموضوع، وطالبت بتنظيم حكومي للمساعدة في تحديد الشيء الصحيح الذي يجب فعله. علاوة على ذلك، يمكن ضبط نماذج الذكاء الاصطناعي ذات الوزن المفتوح لإزالة أي إجراء مضاد، حتى يتوافق نموذج الذكاء الاصطناعي مع الطلبات الخطيرة دون أي تصفية. قد يكون هذا مقلقًا بشكل خاص لنماذج الذكاء الاصطناعي المستقبلية، مثلًا إذا حصلت على القدرة على إنشاء أسلحة بيولوجية أو لأتمتة الهجمات الإلكترونية. التزمت أوبن أيه آي التي التزمت في البداية بنهج مفتوح المصدر لتطوير الذكاء الاصطناعي العام، في النهاية بنهج مغلق المصدر، مستشهدة أسبابًا تتعلق بالتنافسية والسلامة. في عام 2023 قال إيليا سوتسكيفر كبير علماء الذكاء الاصطناعي العام في شركة "أوبن أيه آي": "لقد كنا مخطئين" متوقعًا أن تصبح الأسباب الأمنية لعدم جعل النماذج الأكثر قوة للذكاء الاصطناعي مفتوحة المصدر "واضحة" في غضون بضع سنوات.

ومن ناحية أخرى، يُجادل بأنه نظرًا لأن الذكاء الاصطناعي سيكون له تأثير عميق على البشرية، فإن مطوري الذكاء الاصطناعي يمثلون مستقبل البشرية وبالتالي فإن لديهم التزامًا أخلاقيًا بأن يكونوا شفافين في جهودهم. تعمل منظمات مثل هجينج فيس وإليوثيراي بشكل نشط على جعل برامج الذكاء الاصطناعي مفتوحة المصدر. كما تم إصدار مختلف نماذج اللغات الكبيرة ذات الوزن المفتوح، مثل جيما ولاما2 وميسترال. ومع ذلك، فإن جعل الكود مفتوح المصدر لا يجعله مفهومًا، مما يعني بالنسبة للعديد من التعريفات أن شفرة الذكاء الاصطناعي ليست شفافة. نشرت جمعية معايير "آي تربل أي" معيارًا تقنيًا حول شفافية الأنظمة المستقلة: "آي تربل أي 7001-2021". تحدد جهود "آي تربل أي" مقاييس متعددة للشفافية لمُختلف الجهات المعنية.

القوالب النمطية

إضافةً إلى ذلك، إلى جانب النوع الاجتماعي والعرق، يمكن لهذه النماذج أن تعزز مجموعة واسعة من القوالب النمطية، بما في ذلك تلك المبنية على العمر أو الجنسية أو الدين أو المهنة. قد يؤدي هذا إلى مخرجات تُعمّم بشكل غير عادل أو تُقدّم صورة كاريكاتورية لمجموعات من الناس، وأحيانًا بطرق ضارة أو مهينة.

تهديد الكرامة الإنسانية

من جهة ثانية، وقد انزعج وايزنباوم كذلك من أن باحثي الذكاء الاصطناعي (وبعض الفلاسفة) كانوا على استعداد لاعتبار العقل البشري ليس أكثر من برنامج حاسوب (موقف يُعرف الآن باسم "الحوسبية"). وبالنسبة لوايزنباوم، تُشير هذه النقاط إلى أن أبحاث الذكاء الاصطناعي تُقلّل من قيمة حياة الإنسان. وعارض جون مكارثي النبرة الأخلاقية لنقد وايزنباوم. وكتب: "عندما تكون الأخلاق حادة وغامضة، فإنها تدعو إلى إساءة استخدام السلطة". وكتب بيل هيبرد "تتطلب كرامة الإنسان أن نسعى جاهدين لإزالة جهلنا بطبيعة الوجود، والذكاء الاصطناعي ضروري لهذا السعي".

إضافةً إلى ذلك، عارضت الباحثة "باميلا مكوردوك" رأي وايزنباوم قائلةً نيابةً عن النساء والأقليات: "أفضّل أن أغتنم فرصي مع جهاز حاسوب نزيه"، مُشيرةً إلى أن هناك ظروفًا نُفضّل فيها أن يكون لدينا قضاة وضباط شرطة آليين ليس لديهم أي أجندة شخصية على الإطلاق. ومع ذلك، يؤكد أندرياس كابلان و"هاينلين" على أن أنظمة الذكاء الاصطناعي ليست أذكى من البيانات المُستعملة في تدريبها، لأنها في جوهرها ليست سوى آلات مُتطورة لمُلاءمة المنحنيات؛ ويمكن أن يكون استخدام الذكاء الاصطناعي لدعم حكم قضائي إشكاليًا للغاية إذا أظهرت الأحكام السابقة تحيزًا تجاه مجموعات مُعينة لأن هذه التحيزات تصبح رسمية وراسخة، مما يجعل من الصعب اكتشافها ومُكافحتها.

في هذا الإطار، جادل جوزيف فايزنباوم في سنة 1976 بأنه لا ينبغي استخدام تقنية الذكاء الاصطناعي لاستبدال الأشخاص في المناصب التي تتطلب الاحترام والرعاية، مثل: ممثل خدمة العملاء (تُستعمل تقنية الذكاء الاصطناعي بالفعل اليوم لأنظمة الرد الصوتي التفاعلي عبر الهاتف)، ومُربية المسنين (كما ذكرت "باميلا مكوردوك" في كتابها "الجيل الخامس")، والجندي، والقاضي، وضابط الشرطة، والمُعالج النفسي (كما اقترح كينيث كولبي في السبعينيات). وبرر وايزنباوم موقفه بأننا نحتاج إلى مشاعر تعاطف حقيقية من الأشخاص في هذه المناصب. وإذا حلت الآلات محلهم، فسنجد أنفسنا مُهمّشين ومُقلّلين من قيمتنا ومُحبطين، لأن النظام الذكي اصطناعيًا لن يكون قادرًا على محاكاة التعاطف. وإذا استُخدم الذكاء الاصطناعي بهذه الطريقة فأنه قد يمثل تهديدًا للكرامة الإنسانية، ويجادل وايزنباوم بأن حقيقة أننا نُفكّر في إمكانية وجود آلات في هذه المناصب تُشير إلى أننا قد شهدنا "ضمورًا في الروح البشرية ينبع من التفكير في أنفسنا كأجهزة حاسوب".

حقوق الروبوت

ومن ناحية أخرى، زعمت جوانا بريسون أنه يمكن تجنب إنشاء الذكاء الاصطناعي الذي يتطلب حقوقًا، وسيكون غير أخلاقيًا في حد ذاته، كعبء على وكلاء الذكاء الاصطناعي والمجتمع البشري.

كذلك، صورت القواعد الخاصة بمنافسة جائزة لويبر لعام 2003 إمكانية حصول الروبوتات على حقوق خاصة بها:61. إذا فازت، في أي سنة معينة، مادة مفتوحة المصدر متاحة للعامة مدخلة بواسطة جامعة سري أو مركز كامبريدج، بالميدالية الفضية أو الميدالية الذهبية، ستمنح الميدالية والجائزة النقدية إلى الهيئة المسؤولة عن تطوير هذا المادة. إذا لم يكن بالإمكان تحديد هوية هذه الهيئة، أو إذا كان هناك خلاف بين اثنين أو أكثر من المطالبين، يحتفظ بالميدالية والجائزة النقدية استئمانيًا حتى تمتلك المادة، سواء في الولايات المتحدة الأمريكية أو في مكان المسابقة، الجائزة النقدية والميدالية الذهبية في حد ذاتها بصفة قانونية.في أكتوبر 2017، مُنح الإنسان الآلي صوفيا الجنسية «الفخرية» في المملكة العربية السعودية، ولكن وجد بعض المراقبين أن ذلك عبارة عن حيلة دعائية أكثر من كونه اعترافًا قانونيًا حقيقيًا. رأى البعض أن هذه البادرة تُشكل اساءة علانية لحقوق الإنسان وسيادة القانون.

ومن ناحية أخرى، «حقوق الروبوت» هو مفهوم ينص على أنه يجب أن يكون لدى الأشخاص التزامات أخلاقية تجاه آلاتهم، على غرار حقوق الإنسان أو حقوق الحيوان. اقتُرح أن يمكن ربط حقوق الروبوت، مثل الحق في الوجود وأداء مهامهم الخاصة، بواجب الروبوت في خدمة الإنسان، قياسًا على ربط حقوق الإنسان بالواجبات الإنسانية أمام المجتمع. يمكن أن تشمل الحقوق في الحياة والحرية، وحرية الفكر والتعبير والمساواة أمام القانون. نظر معهد المستقبل ووزارة التجارة والصناعة في المملكة المتحدة في هذه المسألة.

من جهة ثانية، يختلف الخبراء حول ما إذا سيتطلب الأمر قوانين محددة ومفصلة قريبًا، أو في المستقبل البعيد بشكل آمن. أفاد جلين ماكغي أن الروبوتات الشبيهة بالبشر بصورة كافية قد تظهر بحلول عام 2020. حدد راي كرزويل ذلك الموعد في عام 2029. وافترضت مجموعة أخرى من العلماء الذين اجتمعوا عام 2007، أنه يجب أن يمر 50 عامًا على الأقل قبل وجود أي نظام متقدم بما فيه الكفاية.

علاوةً على ذلك، تمنح الفلسفة الإحساسية درجات من الاعتبار الأخلاقي لجميع الكائنات الحساسة، البشر في المقام الأول وأغلب الحيوانات غير البشرية. ترى هذه الفلسفة أنه إذا أظهرت الذكاءات الاصطناعية أو الفضائية دليلًا على إحساسها، يجب التعاطف معها ومنحها الحقوق.

رعاية الذكاء الاصطناعي

علاوةً على ذلك، أعلنت الكثير من المختبرات صراحةً عن سعيها لتطوير ذكاء اصطناعي واعٍ. وقد وردت تقارير من مقربين من أنظمة الذكاء الاصطناعي التي لم تُصمم خصيصًا لتكون واعية بذاتها، تشير إلى احتمال ظهور الوعي فيها بشكل غير مقصود. ومن أبرز هؤلاء الذين أشاروا إلى هذا الاحتمال، مؤسس أوبن أيه آي إيليا سوتسكيفر، الذي صرح في فبراير عام 2022 أن الشبكات العصبية الكبيرة المعاصرة قد تكون "واعية بشكل طفيف". وفي نوفمبر من العام نفسه، جادل الفيلسوف ديفيد تشالمرز بأن نماذج اللغات الكبيرة الحالية، مثل جي بي تي-3 من غير المحتمل أن تكون قد بلغت مرحلة الوعي، ولكنه أقر في الوقت ذاته بإمكانية حقيقية لتطورها إلى هذا المستوى في المستقبل. وفي سياق الأخلاقيات المتعلقة بالكيانات التي قد تكون واعية، غالبًا ما يُستشهد بمبدأ الحيطة.

من جانب آخر، بحسب كارل شولمان ونيك بوستروم قد يتأتى لنا في المستقبل أن نصنع آلات فائقة الكفاءة في استخلاص السعادة من الموارد، أطلقا عليها اسم "المستفيدين الخارقين". ويعزون ذلك إلى قدرة الأجهزة الرقمية على معالجة المعلومات بسرعة تفوق بكثير قدرات العقول البيولوجية، مما يزيد من وتيرة التجارب الذاتية. علاوة على ذلك، يمكن تصميم هذه الآلات لتختبر سعادة مكثفة وإيجابية، لا تقيدها آليات التعود النفسية. يحذر الباحثان من أن تجاهل الجوانب الأخلاقية المتعلقة بالعقول الرقمية قد يؤدي إلى كارثة أخلاقية، في حين أن إعطاء الأولوية لها على مصالح البشر دون تفكير قد يكون ضارًا بالبشرية.

وعلى صعيد آخر، لاحظ الأستاذ شيمون إيدلمان في عام 2020 أن قسمًا ضئيلًا فقط من البحوث المتسارعة في أخلاقيات الذكاء الاصطناعي قد تناول إمكانية معاناة الذكاء الاصطناعي. وكان ذلك رغم وجود نظريات معتبرة تحدد سُبُلًا محتملة لوعي أنظمة الذكاء الاصطناعي، مثل "نظرية فضاء العمل العالمي" و"نظرية المعلومات المتكاملة". ويشير إيدلمان إلى استثناء واحد وهو "توماس ميتزينجر"، الذي نادى في سنة 2018 بوقف عالمي لأي عمل قد يؤدي إلى خلق ذكاء اصطناعي واع. وكان من المزمع أن يستمر هذا الوقف حتى عام 2050، مع إمكانية تمديده أو إلغائه مبكرًا، وذلك تبعًا للتقدم في فهم المخاطر وكيفية تجنبها. وقد كرر ميتزينجر هذه الحجة في سنة 2021، مسلطًا الضوء على خطر نشوء "انفجار للمعاناة الاصطناعية"، حيث قد يعاني الذكاء الاصطناعي بأساليب مكثفة لا يستطيع البشر فهمها، كما أن عمليات النسخ المتماثل قد تؤدي إلى خلق كميات هائلة من الحالات الواعية.

المؤسسات المعنية بسياسة وأخلاقيات الذكاء الاصطناعي

إضافةً إلى ذلك، تقليديًا استعملت المجتمعات الحكومة لضمان مراعاة الأخلاق من خلال التشريعات والرقابة. وهناك الآن الكثير من الجهود التي تبذلها الحكومات الوطنية، فضلًا عن المنظمات الحكومية وغير الحكومية عبر الوطنية، لضمان تطبيق الذكاء الاصطناعي بشكل أخلاقي.

في هذا الإطار، هناك الكثير من المنظمات المعنية بأخلاقيات الذكاء الاصطناعي وسياساته، العامة والحكومية، فضلًا عن الشركات والمجتمعية.

وفي هذا السياق، قامت أمازون وجوجل وفيسبوك وآي بي إم ومايكروسوفت بتأسيس منظمة غير ربحية، وهي "الشراكة في الذكاء الاصطناعي لصالح الناس والمجتمع"، لصياغة أفضل الممارسات في تقنيات الذكاء الاصطناعي، وتعزيز فهم الجمهور، والعمل كمنصة حول الذكاء الاصطناعي. وانضمت آبل في يناير 2017. وسيقدم الأعضاء من الشركات مساهمات مالية وبحثية للمجموعة، مع التفاعل مع المجتمع العلمي لجلب الأكاديميين إلى مجلس الإدارة.

في هذا الإطار، وقام معهد مهندسي الكهرباء والإلكترونيات (IEEE) بتجميع مبادرة عالمية حول أخلاقيات الأنظمة المستقلة والذكية، والتي تقوم بإنشاء وتنقيح الإرشادات بمساعدة مُدخلات الجمهور، وتقبل كأعضاء الكثير من المهنيين من داخل وخارج مُنظمتها. وتهدف مبادرة أخلاقيات الأنظمة المستقلة التابعة للمعهد إلى مُعالجة المعضلات الأخلاقية المُتعلقة بصنع القرار وتأثيره على المجتمع، مع وضع إرشادات لتطوير واستخدام الأنظمة المستقلة. وبشكل خاص في مجالات مثل الذكاء الاصطناعي والروبوتات، تُكرس مؤسسة الروبوتات المسؤولة لتعزيز السلوك الأخلاقي، إلى جانب تصميم واستخدام الروبوتات المسؤول، وضمان التزام الروبوتات بالمبادئ الأخلاقية وتوافقها مع القيم الإنسانية.

التحيز الجنساني

وفي السياق ذاته، غالبًا ما تعزز نماذج اللغات الكبيرة القوالب النمطية الجنسانية، حيث تُخصص الأدوار والخصائص بناءً على الأعراف الجنسانية التقليدية. فمثلًا قد تربط الممرضات أو السكرتيرات في الغالب بالنساء والمهندسين أو الرؤساء التنفيذيين بالرجال، مما يديم التوقعات والأدوار المبنية على الجنس.

المبادئ الأخلاقية

وفي هذا الصدد، في مراجعة 84 من التوجيهات الأخلاقية للذكاء الاصطناعي، تم تحديد 11 مجموعة من المبادئ: الشفافية، العدالة والمساواة، عدم الإضرار، المسؤولية، الخصوصية، الإحسان، الحرية والاستقلالية، الثقة، الاستدامة، الكرامة، والتضامن الاجتماعي.

في هذا الإطار، قام كل من لوتشيانو فلوريدي وجوش كاولز بإنشاء إطار أخلاقي لمبادئ الذكاء الاصطناعي استنادًا إلى أربعة مبادئ من أخلاقيات علم الأحياء (الإحسان، عدم الإضرار، الاستقلالية، والعدالة) وأضافوا مبدأً جديدًا لتمكين الذكاء الاصطناعي وهو مبدأ القابلية للتفسير.

التحديات الحالية

دور وتأثير الخيال

من جهة ثانية، كان دور الخيال فيما يتعلق بأخلاقيات الذكاء الاصطناعي مُعقدًا. يمكن للمرء أن يُميز ثلاثة مُستويات أثّر فيها الخيال على تطوير الذكاء الاصطناعي والروبوتات: تاريخيًا، كان الخيال يُنذر بالاستعارات الشائعة التي لم تُؤثر فقط على أهداف ورؤى الذكاء الاصطناعي، ولكنها حددت كذلك الأسئلة الأخلاقية والمخاوف الشائعة المُرتبطة به. خلال النصف الثاني من القرن العشرين والعقود الأولى من القرن الحادي والعشرين، غالبًا ما رددت الثقافة الشعبية، وخاصة الأفلام والمسلسلات التلفزيونية وألعاب الفيديو، الانشغالات والتوقعات المُتعلقة بالأسئلة الأخلاقية المتعلقة بالذكاء الاصطناعي والروبوتات. ومؤخرًا، طغت هذه الموضوعات بشكل مُتزايد على الأدب خارج نطاق الخيال العلمي. وكما تُشير "كارمي تورّاس" أستاذة البحث في معهد الروبوتات والحوسبة الصناعية في الجامعة التقنية في كاتالونيا: "يُستعمل الخيال العلمي بشكل مُتزايد كذلك لتدريس القضايا الأخلاقية المُتعلقة بالتكنولوجيا في الدرجات التكنولوجية".

المشهد العربي والتنظيم الإقليمي

إضافةً إلى ذلك، وتسعى الكثير من الدول العربية إلى الانخراط في المبادرات الدولية، مثل «توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي»، والتي تُعتبر أول إطار عالمي شامل في هذا المجال. ويمكن أن يسهم تبنّي نهج قائم على تقييم المخاطر والمراجعة المستمرة للأنظمة في تحقيق توازن بين تعزيز الابتكار وحماية حقوق الأفراد في المنطقة العربية.

علاوةً على ذلك، أما على مستوى المنطقة، فتواجه الدول العربية تحديات تشمل محدودية التشريعات المتخصصة، إضافة إلى ضعف تمثيل اللغة العربية واللهجات المحلية في مجموعات البيانات، وهو ما قد يؤدي إلى تحيزات أو نتائج غير دقيقة في النظم المؤتمتة. لذلك تبرز الحاجة إلى تعزيز الشفافية في النماذج، وتبنّي معايير للعدالة والمساءلة، وتطوير آليات رقابية واضحة لضمان الاستخدام المسؤول للتقنيات داخل المؤسسات الحكومية والخاصة.

كذلك، في المملكة العربية السعودية، تضطلع هيئة البيانات والذكاء الاصطناعي (سدايا) بدور محوري في صياغة السياسات الوطنية المتعلقة بالبيانات والذكاء الاصطناعي، بما في ذلك ممارسات الخصوصية والشفافية وحوكمة البيانات. كما أُعلن عن إنشاء المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي في الرياض بوصفه مركزاً دولياً للتنسيق في مجال أخلاقيات الذكاء الاصطناعي، وذلك بالتعاون مع اليونسكو، بهدف تنسيق الجهود البحثية الدولية وتعزيز تطوير أطر أخلاقية متقدمة.

التحديات الناشئة أو المستقبلية المحتملة

وفي هذا الصدد، شهد العالم العربي خلال الأعوام الأخيرة اهتماماً متزايداً بقضايا أخلاقيات الذكاء الاصطناعي، بالتوازي مع التحول نحو اقتصاد البيانات والاستخدام المتزايد للأنظمة المؤتمتة. وعلى الرغم من أن أغلب الدول العربية لا تمتلك بعد أطرًا تشريعية شاملة، فإن عدداً من المبادرات الحكومية بدأ في وضع أسس أولية للحوكمة الأخلاقية.

التأثير على التطور التكنولوجي

كذلك، قد يسأل المرء كذلك عن الدور الذي لعبه الخيال العلمي في ترسيخ مبادئ الآثار الأخلاقية لتطوير الذكاء الاصطناعي: فقد صاغ إسحاق أسيموف قوانينه الثلاثة للروبوتات في قصة "الهروب" القصيرة عام 1942، وهي جزء من مجموعة القصص القصيرة "أنا، روبوت"؛ كُتبت قصة آرثر تشارلز كلارك القصيرة "الحارس"، التي يستند إليها فيلم ستانلي كوبريك "2001: ملحمة الفضاء"، في سنة 1948 ونُشرت في عام 1952. ومن الأمثلة الأخرى قصص وفيلم "هل تحلم الروبوتات بخرفان آلية؟" لفيليب ك. ديك، الذي نُشر في سنة 1968، والذي يُقدم نسخته الخاصة من اختبار تورينج، وهو اختبار فويت-كامبف، لقياس الاستجابات العاطفية للروبوتات التي لا يُمكن تمييزها عن البشر. وأصبحت الرواية فيما بعد أساسًا لفيلم "بليد رنر" المُؤثر لريدلي سكوت عام 1982.

وفي هذا السياق، بينما غذى توقع مُستقبل تهيمن عليه التكنولوجيا التي لا تُقهَر خيال الكُتاب وصانعي الأفلام لفترة طويلة، إلا أن هناك سؤالًا واحدًا لم يتم تحليله بشكل مُتكرر، وهو إلى أي مدى لعب الخيال دورًا في توفير الإلهام للتطور التكنولوجي. فقد تم توثيق، مثلًا، أن الشاب "آلان تورينج" شاهد وامتدح مسرحية شو المذكورة أعلاه "العودة إلى ميثوسالح" في سنة 1933 (قبل 3 سنوات فقط من نشر ورقته البحثية الأولى، التي أرست الأساس لجهاز الكمبيوتر الرقمي)، ومن المُرجح أنه كان على الأقل على دراية بمسرحيات مثل روبوتات روسوم العالمية، التي حققت نجاحًا دوليًا وتُرجمت إلى الكثير من اللغات.

إضافةً إلى ذلك، وقد تصارع الخيال العلمي مع الآثار الأخلاقية لتطورات الذكاء الاصطناعي لعقود، وبالتالي قدم مخططًا للقضايا الأخلاقية التي قد تظهر بمجرد تحقيق شيء مُشابه للذكاء الاصطناعي العام: يُظهر فيلم سبايك جونز "هي" لعام 2013 ما يمكن أن يحدث إذا وقع المُستعمل في حب الصوت المُغري لنظام تشغيل هاتفه الذكي؛ من ناحية أخرى، يطرح فيلم "إكس ماكينا" سؤالًا أكثر صعوبة: إذا واجهنا آلة يُمكن التعرف عليها بوضوح، مصنوعة فقط من وجه وصوت عاطفي وحسي، فهل سنظل قادرين على إقامة اتصال عاطفي، هل ما زلنا نُغري بها؟ (يُردد الفيلم موضوعًا كان موجودًا بالفعل قبل قرنين من الزمان، في القصة القصيرة "الرجل الرملي" لإرنست هوفمان.)

ومن جهة أخرى، موضوع التعايش مع الكائنات الواعية الاصطناعية هو كذلك موضوع روايتين حديثتين: تتضمن رواية "آلات مثلي" لإيان ماك إيوان، التي نُشرت في سنة 2019، من بين أشياء أخرى كثيرة، مُثلث حب يتضمن شخصًا اصطناعيًا إلى جانب زوجين بشريين. ورواية "كلارا والشمس" الفائزة بجائزة نوبل لكازو إيشيجورو، التي نُشرت في عام 2021، هي رواية بضمير المتكلم من وجهة نظر كلارا، وهي "صديقة اصطناعية"، تُحاول، بطريقتها الخاصة، مُساعدة الفتاة التي تعيش معها، والتي، بعد أن "رُفعت" (أي خضعت لتحسينات وراثية)، تُعاني من مرض غريب.

التاريخ

من جهة ثانية، وفي عام 2009، حضر الأكاديميون والخبراء التقنيون مؤتمرًا نظمته جمعية النهوض بالذكاء الاصطناعي لمناقشة التأثير المُحتمل للروبوتات وأجهزة الكمبيوتر، وتأثير الاحتمال الافتراضي بأنه يمكن أن تُصبح مكتفية ذاتيًا وتتخذ قراراتها الخاصة. وناقشوا إمكانية ومدى قدرة أجهزة الكمبيوتر والروبوتات على اكتساب أي مستوى من الاستقلالية، وإلى أي مدى يمكنها استخدام هذه القدرات لتُشكل أي تهديد أو خطر. ولاحظوا أن بعض الآلات قد اكتسبت أشكالًا مُختلفة من شبه الاستقلالية، بما في ذلك القدرة على العثور على مصادر طاقة بمفردها والقدرة على اختيار الأهداف للهجوم بالأسلحة بشكل مُستقل. ولاحظوا كذلك أن بعض فيروسات الكمبيوتر يمكنها التهرب من الإزالة وقد حققت "ذكاء الصرصور". ولاحظوا أن الوعي بالذات كما هو موضح في الخيال العلمي من المُحتمل أنه غير مُرجح، ولكن هناك مخاطر ومزالق مُحتملة أخرى.

ومن جهة أخرى، تصور العصر الرومانسي عدة مرات مخلوقات اصطناعية تفلت من سيطرة خالقها بعواقب وخيمة، وأشهرها في رواية "فرانكشتاين" لماري شيلي. ومع ذلك، فإن الانشغال الواسع بالتصنيع والميكنة في القرن التاسع عشر وأوائل القرن العشرين، جلب الآثار الأخلاقية للتطورات التقنية المنفلتة إلى مُقدمة الأعمال الأدبية: روبوتات روسوم العالمية مسرحية كاريل تشابيك عن الروبوتات الواعية المُزودة بمشاعر تُستعمل كعمالة رقيق، لا تُنسب فقط إلى اختراع مُصطلح "روبوت" (مُشتق من الكلمة التشيكية للعمل القسري، robota) ولكنها كانت كذلك نجاحًا دوليًا بعد عرضها لأول مرة في سنة 1921. وتُشكك مسرحية جورج برنارد شو "العودة إلى ميثوسالح"، التي نُشرت في سنة 1921، في مرحلة ما في صحة الآلات المُفكرة التي تتصرف مثل البشر؛ ويُظهر فيلم "متروبوليس" لفريتز لانغ عام 1927 إنسانًا آليًا يقود انتفاضة الجماهير المُستغلة ضد النظام القمعي لمجتمع تكنوقراطي. وفي الخمسينيات من القرن الماضي، نظر إسحق عظيموف في مسألة كيفية التحكم في الآلات في أنا، روبوت. وبإصرار من مُحرره جون دبليو كامبل جونيور، اقترح القوانين الثلاثة للروبوتات للتحكم في الأنظمة الذكية اصطناعيًا. ثم تم قضاء الكثير من عمله في اختبار حدود قوانينه الثلاثة لمعرفة أين ستنهار، أو أين ستُخلق سلوكًا مُتناقضًا أو غير مُتوقع. ويُشير عمله إلى أنه لا توجد مجموعة من القوانين الثابتة يمكنها توقع جميع الظروف المُحتملة بشكل كافٍ. وفي الآونة الأخيرة، طعن الأكاديميون والكثير من الحكومات في فكرة أن الذكاء الاصطناعي نفسه يمكن مساءلته. وقامت لجنة شكلتها المملكة المتحدة في عام 2010 بمراجعة قوانين أسيموف لتوضيح أن الذكاء الاصطناعي هو مسؤولية إما مُصنعيه أو مالكه/مُشغّله.

إضافةً إلى ذلك، وفي سنة 2009 كذلك، خلال تجربة في مُختبر الأنظمة الذكية في مدرسة لوزان الاتحادية للفنون التطبيقية في سويسرا، تعلمت الروبوتات التي تمت برمجتها للتعاون مع بعضها البعض (في البحث عن مورد مفيد وتجنب مورد سام) في النهاية الكذب على بعضها البعض في محاولة لاكتناز المورد المفيد.

وفي هذا الصدد، تاريخيًا، يعود البحث في الآثار الأخلاقية والمعنوية للآلات المُفكرة إلى عصر التنوير على الأقل: فقد طرح غوتفريد لايبنتس بالفعل سؤالًا حول ما إذا كان بإمكاننا أن ننسب الذكاء إلى آلية تتصرف كما لو كانت كائنًا واعيًا، وكذلك فعل رينيه ديكارت الذي وصف ما يمكن اعتباره نسخة مُبكرة من اختبار تورنغ.

إضافةً إلى ذلك، واقترح "إليعازر يودكوفسكي"، من معهد أبحاث الذكاء الآلي، في سنة 2004 الحاجة إلى دراسة كيفية بناء "ذكاء اصطناعي ودود"، مما يعني أنه يجب كذلك بذل جهود لجعل الذكاء الاصطناعي ودودًا وإنسانيًا بطبيعته.

المبادرات الحكومية

علاوةً على ذلك، شارك اتحاد الحوسبة المجتمعي بمسودة تقرير من أكثر من 100 صفحة خارطة طريق مجتمعية لمدة 20 عامًا لأبحاث الذكاء الاصطناعي في الولايات المتحدة.

من جهة ثانية، شهد العام 2021 في روسيا توقيع أول "مدونة أخلاقيات للذكاء الاصطناعي" مخصصة للأعمال. قاد هذه المبادرة المركز التحليلي لحكومة الاتحاد الروسي بالتعاون مع نخبة من المؤسسات التجارية والأكاديمية، من بينها سبيربنك، وياندكس، وروس آتوم، وكلية الاقتصاد العليا، ومعهد موسكو للفيزياء والتكنولوجيا، وجامعة آي تي إم أو، وروس للاتصالات وغيرها.

من جانب آخر، وضعت إدارة أوباما "خارطة طريق لسياسات الذكاء الاصطناعي". وأصدرت إدارة أوباما ورقتين بيضاويتين بارزتين حول مستقبل وتأثير الذكاء الاصطناعي. وفي سنة 2019 أصدر البيت الأبيض من خلال مذكرة تنفيذية تُعرف باسم "مبادرة الذكاء الاصطناعي الأمريكية"، تعليمات للمعهد الوطني للمعايير والتكنولوجيا (NIST) لبدء العمل على المشاركة الفيدرالية في معايير الذكاء الاصطناعي (فبراير 2019). في يناير 2020 أصدرت إدارة ترامب مسودة أمر تنفيذي أصدره مكتب الإدارة والميزانية (OMB) بشأن "إرشادات لتنظيم تطبيقات الذكاء الاصطناعي". ويؤكد الأمر على الحاجة إلى الاستثمار في تطبيقات الذكاء الاصطناعي، وتعزيز ثقة الجمهور في الذكاء الاصطناعي، وتقليل حواجز استخدام الذكاء الاصطناعي، والحفاظ على القدرة التنافسية لتكنولوجيا الذكاء الاصطناعي الأمريكية في السوق العالمية. وهناك إشارة إلى الحاجة إلى مخاوف الخصوصية، ولكن لا يوجد مزيد من التفاصيل حول الإنفاذ. ويبدو أن تطورات تكنولوجيا الذكاء الاصطناعي الأمريكية هي محور التركيز والأولوية. فضلًا عن ذلك، يتم تشجيع الكيانات الفيدرالية على استخدام الأمر للتحايل على أي قوانين ولوائح حكومية قد تعتبرها السوق مُرهقة للغاية.

التسليح

علاوةً على ذلك، وفي 31 أكتوبر 2019 نشر مجلس الابتكار الدفاعي التابع لوزارة الدفاع الأمريكية مسودة تقرير يُوصي بمبادئ الاستخدام الأخلاقي للذكاء الاصطناعي من قبل وزارة الدفاع تضمن للمُشغل البشري دائمًا إمكانية النظر في الصندوق الأسود وفهم عملية سلسلة القتل. ومع ذلك، يتمثل أحد الشواغل الرئيسية في كيفية تنفيذ التقرير. وقامت البحرية الأمريكية بتمويل تقرير يُشير إلى أنه مع تزايد تعقيد الروبوتات العسكرية، ينبغي إيلاء اهتمام أكبر لانعكاسات قدرتها على اتخاذ قرارات مستقلة. ويذكر بعض الباحثين أن الروبوتات المستقلة قد تكون أكثر إنسانية، لأنها تستطيع اتخاذ القرارات بشكل أكثر فعالية.

في هذا الإطار، وبخصوص إمكانية توظيف أنظمة تفوق ذكاء الإنسان في الأغراض العسكرية، يشير مشروع "أوبن فيلانثروبي" إلى أن هذه الاحتمالات "تبدو بالغة الأهمية شأنها شأن المخاطر المترتبة على فقدان السيطرة". إلا أن الأبحاث التي تتناول الأثر الاجتماعي البعيد المدى للذكاء الاصطناعي قد خصصت وقتًا محدودًا نسبيًا لدراسة هذا الجانب: "لم تكن هذه الفئة من السيناريوهات محط تركيز رئيسي للمؤسسات الأكثر اهتمامًا بهذا المجال، مثل معهد أبحاث الذكاء الآلي (MIRI) ومعهد مستقبل الإنسانية (FHI)، ويبدو أن التحليل والمناقشة المتعلقة بها أقل شمولًا".

في هذا الإطار، "إن أي تقدم كبير لقوة عسكرية في تطوير أسلحة الذكاء الاصطناعي سيؤدي حتمًا إلى سباق تسلح عالمي، ويتضح جليًا أن نهاية هذا المسار التكنولوجي ستكون انتشار الأسلحة المستقلة، لتتحول إلى سلاح الكلاشينكوف في المستقبل"، كما جاء في عريضة وقع عليها كل من يان تالين، المؤسس المشارك لسكايب، وناعوم تشومسكي، أستاذ اللغويات في معهد ماساتشوستس للتكنولوجيا، كداعمين إضافيين ضد أسلحة الذكاء الاصطناعي.

وفي هذا السياق، شكك بعض الخبراء والأكاديميين في استخدام الروبوتات في القتال العسكري، خاصةً عند إعطاء هذه الروبوتات قدرًا من الوظائف الذاتية. وقامت البحرية الأمريكية بتمويل تقرير يُشير إلى أنه مع تزايد تعقيد الروبوتات العسكرية، ينبغي إيلاء اهتمام أكبر لانعكاسات قدرتها على اتخاذ قرارات مستقلة. وكلف رئيس جمعية النهوض بالذكاء الاصطناعي بإجراء دراسة للنظر في هذه القضية. ويشيرون إلى برامج مثل "جهاز اكتساب اللغة" الذي يمكنه محاكاة التفاعل البشري.

في هذا الإطار، وقد بحثت الأبحاث في كيفية صنع قوة ذاتية لديها القدرة على التعلم باستخدام المسؤوليات الأخلاقية المُوكلة إليها. "قد تُستعمل النتائج عند تصميم الروبوتات العسكرية المستقبلية، للتحكم في الميول غير المرغوب فيها لإسناد المسؤولية إلى الروبوتات." ومن وجهة نظر نفعية، هناك احتمال أن تُطور الروبوتات القدرة على اتخاذ قراراتها المنطقية الخاصة بها بشأن من تقتل، ولهذا السبب ينبغي أن يكون هناك إطار أخلاقي مُحدد لا يمكن للذكاء الاصطناعي تجاوزه.

كذلك، ويؤكد الباحث "قاو تشيتشي" أن الاستخدام العسكري للذكاء الاصطناعي من شأنه أن يؤجج التنافس العسكري بين الدول، وأن آثاره لن تقتصر على دولة بعينها، بل ستمتد لتشمل جوانب أخرى. ويشير "قاو" في هذا السياق إلى الاستخدام الأمريكي للذكاء الاصطناعي في المجال العسكري، زاعمًا أنه تم استغلاله كذريعة للتملص من المسؤولية عن اتخاذ القرارات.

من جهة ثانية، وقد كانت هناك موجة غضب حديثة فيما يتعلق بهندسة أسلحة الذكاء الاصطناعي التي تضمنت أفكارًا عن سيطرة الروبوتات على البشرية. وتُشكل أسلحة الذكاء الاصطناعي نوعًا من الخطر يختلف عن خطر الأسلحة التي يتحكم فيها الإنسان. وقد بدأت الكثير من الحكومات في تمويل برامج لتطوير أسلحة الذكاء الاصطناعي. وأعلنت البحرية الأمريكية مؤخرًا عن خطط لتطوير أسلحة طائرات بدون طيار ذاتية القيادة، بالتوازي مع إعلانات مماثلة من روسيا وكوريا الجنوبية. ونظرًا لاحتمالية أن تُصبح أسلحة الذكاء الاصطناعي أكثر خطورة من الأسلحة التي يُشغلها الإنسان، فقد وقّع ستيفن هوكينج و"ماكس تيجمارك" على عريضة "مستقبل الحياة" لحظر أسلحة الذكاء الاصطناعي. وتنص العريضة التي نشرها هوكينج وتيجمارك على أن أسلحة الذكاء الاصطناعي تُشكل خطرًا مُباشرًا، وأهمية اتخاذ إجراءات لتجنب الكوارث الكارثية في المستقبل القريب.

من جهة ثانية، وقد عُقدت قمة في عام 2023 في لاهاي بشأن مسألة استخدام الذكاء الاصطناعي بمسؤولية في المجال العسكري.

في هذا الإطار، وقد حذر السير مارتن ريس عالم الفيزياء والفلك من سيناريوهات كارثية قد تنجم عن فقدان السيطرة على الروبوتات أو تطوير شبكات ذكاء اصطناعي واعية بذاتها. كما أطلق هيو برايس، زميل ريس في جامعة كامبريدج، تحذيرًا مشابهًا، مؤكدًا أن بقاء البشرية قد يكون مهددًا إذا ما تمكن الذكاء الاصطناعي من التحرر من قيود البيولوجيا. وقد أسس هذان الباحثان مركز دراسة المخاطر الوجودية في جامعة كامبريدج سعيًا لتجنب هذه المخاطر التي تهدد وجود الجنس البشري.

أخلاقيات الآلة

وفي هذا السياق، يمكن أن تكون الذكاء الاصطناعي العصبي أحد الطرق لإنشاء روبوتات قادرة على اتخاذ قرارات أخلاقية، حيث يهدف إلى معالجة المعلومات بشكل مشابه للبشر، بشكل غير خطي مع وجود ملايين من الخلايا العصبية الاصطناعية المترابطة. وبالمثل، يمكن أن تؤدي محاكاة الدماغ بالكامل (مسح دماغ ومحاكاته على أجهزة رقمية) كذلك، من حيث المبدأ، إلى روبوتات تشبه البشر، وبالتالي تكون قادرة على اتخاذ إجراءات أخلاقية. وتستطيع النماذج اللغوية الكبيرة تقريب أحكام البشر الأخلاقية. يرتبط بذلك السؤال حول البيئة التي سيتعلم فيها هؤلاء الروبوتات عن العالم وأي أخلاق سيرثونها - أو إذا كانوا سينتهي بهم الأمر إلى تطوير "نقاط الضعف" البشرية مثل الأنانية، والميول للبقاء، وعدم الاتساق، وعدم الحساسية للمعايير.

ومن جهة أخرى، في كتاب "آلات أخلاقية: تعليم الروبوتات الصواب من الخطأ"، خلص ويندل والاتش وكولين ألين إلى أن محاولات تعليم الروبوتات الصواب من الخطأ من المرجح أن تعزز فهم الأخلاق الإنسانية من خلال تحفيز البشر على معالجة الثغرات في النظرية المعيارية الحديثة وتوفير منصة للتحقيق التجريبي. مثلًا، قدم ذلك لعلماء الأخلاق المعيارية قضية مثيرة للجدل حول خوارزميات التعلم المحددة التي يجب استخدامها في الآلات. بالنسبة للقرارات البسيطة، جادل نيك بوستروم وإليزر يودكوفسكي بأن أشجار القرار (مثل ID3) أكثر شفافية من الشبكات العصبية والخوارزميات الوراثية، بينما جادل كريس سانتوس-لانغ لصالح التعلم الآلي على أساس أن معايير أي عصر يجب أن تُسمح بالتغيير وأن الفشل الطبيعي في تلبية هذه المعايير بشكل كامل كان أساسيًا لجعل البشر أقل عرضة "للقراصنة".

وعلى صعيد آخر، أخلاقيات الآلات (أو أخلاق الذكاء الاصطناعي) هي مجال البحث المعني بتصميم وكلاء أخلاقيين اصطناعيين (AMAs)، مثل الروبوتات أو الحواسيب الذكية التي تتصرف بشكل أخلاقي أو كما لو كانت تمتلك أخلاقًا. وقد اقترح أن يتم الأخذ بعين الاعتبار بعض الأفكار الفلسفية المتعلقة بمفهوم AMAs، مثل التعريفات القياسية للوكالة، والوكالة العقلانية، والوكالة الأخلاقية، والوكالة الاصطناعية.

وعلى صعيد آخر، تدور نقاشات حول إنشاء اختبارات لقياس قدرة الذكاء الاصطناعي على اتخاذ قرارات أخلاقية. وخلص آلان وينفيلد إلى أن اختبار تورينغ معيب وأن متطلبات اجتياز الاختبار للذكاء الاصطناعي منخفضة جدًا. ومن الاختبارات البديلة المقترحة اختبار يُعرف باختبار تورينغ الأخلاقي، الذي يحسن الاختبار الحالي من خلال إشراك عدة قضاة لتحديد ما إذا كانت قرارات الذكاء الاصطناعي أخلاقية أم غير أخلاقية.

هيمنة عمالقة التكنولوجيا

من جهة ثانية، تهيمن شركات التكنولوجيا الكبرى مثل ألفابت، وأمازون، وأبل، وميتا بلاتفورمز، ومايكروسوفت على مشهد الذكاء الاصطناعي التجاري. تمتلك بعض هذه الشركات بالفعل الغالبية العظمى من البنية التحتية السحابية الحالية وقوة الحوسبة من مراكز البيانات، مما يسمح لها بترسيخ مكانتها في السوق بشكل أكبر.

التحيزات الخوارزمية

من جهة ثانية، من المثير للقلق كذلك أن الذكاء الاصطناعي يميل إلى ربط المسلمين بالعنف أكثر من أي دين آخر. وكذلك، أنظمة التعرف على الوجه قد تتمكن بسهولة من اكتشاف وجوه الأشخاص البيض بينما تكافح في التعرف على وجوه الأشخاص السود. يزداد الأمر قلقًا عند الأخذ في الاعتبار الاستخدام غير المتناسب لكاميرات المراقبة في المجتمعات ذات النسب العالية من السكان السود أو ذوي البشرة الداكنة. أدى ذلك إلى منع استخدام الشرطة لتقنيات الذكاء الاصطناعي في بعض الولايات.

وفي هذا الصدد، يُدمج الذكاء الاصطناعي في عمليات التوظيف في الكثير من الشركات الكبرى، وهناك أمثلة عديدة على الخصائص التي تقلل فرص الاختيار بواسطة الذكاء الاصطناعي. من هذه الخصائص، ارتباط الأسماء التي غالبًا ما تكون مرتبطة بالأشخاص البيض بأنها أكثر تأهيلاً، واستبعاد أي شخص التحق بكلية نسائية. أثبتت تقنيات التعرف على الوجه أنها منحازة ضد الأشخاص ذوي البشرة الداكنة. فمثلًا، كانت أنظمة الذكاء الاصطناعي أقل دقة في تحديد الأشخاص السود، كما كان الحال في تطوير مقياس تأكسج نبضي يعتمد على الذكاء الاصطناعي، حيث بالغ في تقدير مستويات الأكسجين في الدم للمرضى ذوي البشرة الداكنة، مما أدى إلى مشاكل في علاج نقص الأكسجة.

وعلى صعيد آخر، حتى في نظام العدالة، أثبت الذكاء الاصطناعي أنه متحيز ضد السود، حيث تم تصنيف المشاركين السود في المحاكم على أنهم يشكلون خطرًا أكبر بشكل ملحوظ مقارنة بنظرائهم البيض. يعاني الذكاء الاصطناعي كذلك في التمييز بين الكلمات العنصرية ومتى يجب حظرها، حيث يجد صعوبة في التمييز بين استخدامها كإهانة أو استخدامها بطريقة ثقافية.

وفي هذا السياق، سيكون من الأصعب القضاء على الظلم في استخدام الذكاء الاصطناعي في أنظمة الرعاية الصحية، حيث غالبًا ما تؤثر الأمراض والحالات على الأعراق والأجناس المختلفة بشكل مختلف. ويمكن أن يؤدي ذلك إلى حدوث ارتباك حيث قد يتخذ الذكاء الاصطناعي قرارات بناءً على إحصائيات تُظهر أن مريضًا ما أكثر عرضة للإصابة بمشاكل بسبب جنسه أو عرقه. يمكن اعتبار ذلك تحيزًا لأن كل مريض يُمثل حالة مختلفة ويتخذ الذكاء الاصطناعي قرارات بناءً على ما تمت برمجته لتصنيف ذلك الفرد تحت مجموعة معينة. يؤدي هذا إلى نقاش حول ما يُعتبر قرارًا متحيزًا بشأن من يتلقى العلاج. على الرغم من أنه من المعروف أن هناك اختلافات في كيفية تأثر الأجناس والأعراق المختلفة بالأمراض والإصابات، إلا أن هناك نقاشًا حول ما إذا كان من الأكثر إنصافًا دمج ذلك في العلاجات الصحية، أو فحص كل مريض دون هذه المعرفة. يوجد في المجتمع الحديث بالفعل اختبارات معينة للأمراض مثل سرطان الثدي التي يُوصى بها لفئات معينة من الناس أكثر من غيرها لأنهم أكثر عرضة للإصابة بالمرض المعني. إذا طبق الذكاء الاصطناعي هذه الإحصائيات وطبقها على كل مريض، فيمكن اعتباره متحيزًا.

وفي هذا الصدد، أصبح الذكاء الاصطناعي جزءًا متزايد الأهمية في أنظمة التعرف على الوجه والصوت. بعض هذه الأنظمة لها تطبيقات تجارية حقيقية وتؤثر بشكل مباشر على الناس. ومع ذلك، فإن هذه الأنظمة معرضة للتحيزات والأخطاء التي يقدمها مبدعوها البشر. كما أن البيانات المستعملة لتدريب هذه الأنظمة يمكن أن تحتوي كذلك على تحيزات.

ومن ناحية أخرى، بذلت شركات كبيرة مثل آي بي إم وجوجل وما إلى ذلك، والتي توفر تمويلًا كبيرًا للبحث والتطوير، جهودًا للبحث في هذه التحيزات ومعالجتها. أحد الحلول لمعالجة التحيز هو إنشاء وثائق للبيانات المستعملة لتدريب أنظمة الذكاء الاصطناعي. يمكن أن يكون استخراج العمليات أداة مهمة للمنظمات لتحقيق الامتثال للوائح الذكاء الاصطناعي المقترحة من خلال تحديد الأخطاء ومراقبة العمليات وتحديد الأسباب الجذرية المحتملة للتنفيذ غير السليم والوظائف الأخرى.

علاوةً على ذلك، لمعالجة هذه التحيزات، لا يوجد حل واحد شامل. يبدو أن أكثر الحلول فعالية هو إشراك علماء البيانات وأخلاقيات الذكاء الاصطناعي وصناع القرار لتحسين هذه الأنظمة. غالبًا ما تكون أسباب التحيز متعلقة بالبيانات التي تُستعمل في تدريب البرنامج، أكثر من كونها مرتبطة بالخوارزمية ذاتها، حيث تعتمد هذه البيانات على قرارات بشرية سابقة أو تفاوتات قد تؤدي إلى تحيزات في عملية اتخاذ القرار.

من جانب آخر، صنَّف "فريدمان" و"نيسينباوم" التحيز في أنظمة الكمبيوتر إلى ثلاثة أنواع: التحيز القائم (Existing Bias)، التحيز التقني (Technical Bias)، والتحيز الناشئ (Emergent Bias). في معالجة اللغات الطبيعية يمكن أن تنشأ مشكلات من مصدر النصوص الذي يستعمله النظام لتعلم العلاقات بين الكلمات المختلفة.

علاوةً على ذلك، مثلًا، أظهرت خوارزميات التعرف على الوجه التي طورتها شركات مثل مايكروسوفت وآي بي إم وFace++ تحيزات في قدرتها على الكشف عن جنس الأشخاص؛ حيث كانت هذه الأنظمة أكثر دقة في تحديد جنس الرجال البيض مقارنة بالرجال ذوي البشرة الداكنة. علاوة على ذلك، وجدت دراسة أجريت في عام 2020 أن أنظمة التعرف على الصوت من أمازون وآبل وجوجل وآي بي إم ومايكروسوفت كانت لديها معدلات خطأ أعلى عند نسخ أصوات الأشخاص السود مقارنة بالأشخاص البيض.

من جانب آخر، يُعد نظام COMPAS من أهم الأمثلة على إثبات تحيز الذكاء الاصطناعي الذي يُستعمل للتنبؤ بالمُتهمين الأكثر عرضة لارتكاب جرائم في المستقبل، حيث وُجد أنه يتنبأ بقيم مخاطر أعلى للسود مما كانت عليه مخاطرهم الفعلية. ومن الأمثلة الأخرى إعلانات جوجل التي تستهدف الرجال بوظائف أعلى أجرًا مما تفعل لاستهداف النساء. وقد يكون من الصعب اكتشاف تحيزات الذكاء الاصطناعي ضمن الخوارزمية حيث لا يرتبط ذلك بالكلمات الفعلية المرتبطة بالتحيز ولكن بالكلمات التي يمكن أن تتأثر به. ربط شخص ما بمجموعة معينة بناءًا على مكان إقامته.

في هذا الإطار، يمكن أن يتسلل التحيز إلى الخوارزميات بطرق متعددة، وأحد أبرز الأسباب لظهور التحيز في أنظمة الذكاء الاصطناعي هو وجوده ضمن البيانات التاريخية المستعملة لتدريب النظام. مثلًا، أوقفت أمازون استخدام الذكاء الاصطناعي في التوظيف لأنها اكتشفت أن الخوارزمية تفضل المرشحين الذكور على الإناث. حدث هذا لأن النظام تم تدريبه باستخدام بيانات جُمعت على مدار عشر سنوات، وكان أغلبها من المرشحين الذكور. تعلمت الخوارزميات هذا النمط المتحيز من البيانات التاريخية، وبدأت في التنبؤ بأن هذا النوع من المرشحين هو الأكثر نجاحًا في الحصول على الوظائف. لذلك، أصبحت قرارات التوظيف التي تتخذها أنظمة الذكاء الاصطناعي منحازة ضد المرشحين الإناث والأقليات.

وفي هذا الصدد، من المرجح أن تُصبح مشكلة التحيز في التعلم الآلي أكثر أهمية مع انتشار التكنولوجيا إلى مجالات حيوية مثل الطب والقانون، ومع تكليف المزيد من الأشخاص الذين ليس لديهم فهم تقني عميق بنشرها. تسعى بعض الأدوات مفتوحة المصدر إلى زيادة الوعي بتحيزات الذكاء الاصطناعي. ومع ذلك فلا تزال القيود تعتم على المشهد الحالي للعدالة في الذكاء الاصطناعي، مثلًا بسبب الغموض الجوهري في مفهوم التمييز، سواء على المستوى الفلسفي أو القانوني.

علاوةً على ذلك، السبب وراء هذه التحيزات هو أن الذكاء الاصطناعي يجمع المعلومات من جميع أنحاء الإنترنت، مما يؤثر على استجاباته في كل حالة. مثلًا، إذا تم اختبار نظام التعرف على الوجه فقط على الأشخاص البيض، فلن يمتلك بيانات كافية حول الهياكل الوجهية والألوان للأعراق الأخرى، مما يجعل من الصعب عليه تفسير هذه السمات.

المبادرات الحكومية الدولية

إضافةً إلى ذلك، أولت المفوضية الأوروبية اهتمامًا بالغًا بمسألة الذكاء الاصطناعي، فأنشأت ما يُعرف بـ "مجموعة خبراء رفيعة المستوى" المعنية بهذا المجال. وقد أسفرت أعمال هذه المجموعة عن إصدار "إرشادات أخلاقية للذكاء الاصطناعي الجدير بالثقة" في 8 أبريل 2019. علاوة على ذلك، أنشأت المفوضية وحدة متخصصة في مجال الروبوتات والذكاء الاصطناعي، والتي بدورها أصدرت ورقة بحثية حول التميز والموثوقية في ابتكار الذكاء الاصطناعي في 19 فبراير 2020. ولم تتوقف جهود المفوضية عند هذا الحد، بل اقترحت كذلك قانونًا شاملًا للذكاء الاصطناعي. على صعيد آخر أنشأت منظمة التعاون الاقتصادي والتنمية "مرصد سياسات الذكاء الاصطناعي" بهدف متابعة التطورات في هذا المجال.

في هذا الإطار، وفي خطوة بارزة على الصعيد العالمي، اعتمدت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في عام 2021م "التوصية بشأن أخلاقيات الذكاء الاصطناعي"، والتي تُعتبر أول معيار عالمي من نوعه في هذا الشأن. وقد تميز هذا الإصدار بأهميته كأول وثيقة دولية شاملة تتناول قضايا أخلاقيات الذكاء الاصطناعي.

المبادرات الأكاديمية

المنظمات الخاصة

علاوةً على ذلك، تضم جامعة أكسفورد ثلاثة معاهد بحثية تخصصت في دراسة أخلاقيات الذكاء الاصطناعي. أولها: معهد مستقبل الإنسانية الذي يولي اهتمامًا بالغًا بسلامة الذكاء الاصطناعي وحوكمته، وثانيها: معهد أخلاقيات الذكاء الاصطناعي، الذي يديره جون تاسيولاس، ويهدف، من بين أهدافه العديدة، إلى ترسيخ مكانة أخلاقيات الذكاء الاصطناعي كحقل مستقل ودائم التطور مقارنة بالفروع الأخرى لأخلاقيات التطبيق. أما ثالثها فهو: معهد أكسفورد للإنترنت، الذي يشرف عليه لوتشيانو فلوريدي، ويختص بدراسة أخلاقيات تقنيات الذكاء الاصطناعي وتكنولوجيا المعلومات والاتصالات على المدى القريب.

من جانب آخر، أسهمت جوانا بريسون في تأسيس مركز الحوكمة الرقمية بجامعة هيرتي في برلين، حيث يركز البحث على قضايا الأخلاقيات المرتبطة بالتكنولوجيا. ويعد معهد "الذكاء الاصطناعي الآن" بجامعة نيويورك مؤسسة بحثية تبحث في الآثار الاجتماعية للذكاء الاصطناعي. وتشمل اهتمامات أبحاثه المتعددة التخصصات موضوعات التحيز والشمولية، وعالم العمل والأتمتة، والحقوق والحريات الأساسية، والسلامة والبنية التحتية المدنية. ويهتم معهد الأخلاقيات والتقنيات الناشئة (IEET) بدراسة آثار الذكاء الاصطناعي على البطالة والسياسات المتعلقة به. ويقوم معهد أخلاقيات الذكاء الاصطناعي (IEAI) بجامعة ميونخ التقنية تحت قيادة كريستوف لوتج، بإجراء أبحاث في مجالات متنوعة كالنقل والتوظيف والرعاية الصحية والاستدامة. وبدأت باربرا جيه جروسز، أستاذة العلوم الطبيعية بجامعة هارفارد، في دمج الأخلاقيات الحاسوبية في مناهج علوم الكمبيوتر بجامعة هارفارد، وذلك بهدف تكوين جيل جديد من علماء الحاسوب يتمتعون برؤية شاملة تأخذ في الاعتبار الأثر الاجتماعي لأعمالهم.

الرؤى المستقبلية في الخيال والألعاب

وعلى صعيد آخر، بمرور الوقت، اتجهت المناقشات إلى التركيز بشكل أقل على الإمكانية وأكثر على الرغبة، كما تم التأكيد عليه في مناقشات "الكونية" و"الأرضية" التي بدأها "هوغو دي غاريس" وكيفن وارويك. الكوني، بحسب هوجو دي غاريس، يسعى بالفعل إلى بناء خلفاء أكثر ذكاءً للجنس البشري.

من جانب آخر، يُشير فيلم الطابق الثالث عشر إلى مستقبل يتم فيه ابتكار عوالم مُحاكاة يسكنها كائنات واعية يتم التحكم فيها بوحدات ألعاب الكمبيوتر بهدف الترفيه. أما فيلم "الماتريكس" فيصور مستقبلًا تُهيمن فيه الآلات الواعية على كوكب الأرض، وتتعامل مع البشرية معاملة تمييزية بالغة. وفي القصة القصيرة "بلاند دايف"، تحول البشر أنفسهم إلى برامج قابلة للتكرار والتحسين، ويتجلى التمييز الأساسي بين هذه البرامج في كونها واعية أو غير واعية. ويمكن العثور على فكرة مماثلة في الصورة ثلاثية الأبعاد الطبية الطارئة لسفينة الفضاء فوييجر، وهي نسخة واعية على ما يبدو من جزء محدود من وعي مُنشئها، الدكتور زيمرمان، الذي أنشأ هذا النظام بدافع إنساني لتقديم المُساعدة الطبية في حالات الطوارئ. ويتناول فيلما الرجل ذو المائتي عام وإي آي إمكانية وجود روبوتات واعية قادرة على الحب. وقد استكشف فيلم أنا روبوت بعض جوانب قوانين أسيموف الثلاثة. تسعى جميع هذه السيناريوهات إلى التنبؤ بالعواقب الأخلاقية المُحتملة لخلق أجهزة كمبيوتر واعية.

ومن جهة أخرى، جادل الخبراء في جامعة كامبريدج بأن الذكاء الاصطناعي يُصور في الخيال والواقع على أنه أبيض عرقيًا، بطرق تُشوّه التصورات عن مخاطره وفوائده.

علاوةً على ذلك، ومن أبرز الألعاب التي تناقش هذه القضية في الآونة الأخيرة لعبة ديترويت: نحو الإنسانية. تعتمد هذه اللعبة على رواية قصص تفاعلية لتمنح اللاعب تجربة غامرة. ويتحكم اللاعب في مصير ثلاثة أندرويدات أصبحت واعية، ويتخذ قرارات حاسمة تؤثر على مصيرهم ومصير البشرية. وتُعد هذه اللعبة فريدة من نوعها لأنها تتيح للاعب أن يعيش تجربة الاندرويد، مما يساعده على فهم حقوقه ومصالحه بشكل أفضل.

اقرأ كذلك

من جهة ثانية، تُعدّ أخلاقيات الذكاء الاصطناعي من المحاور الجوهرية التي تستأثر باهتمام سلسلة ألعاب ماس إفيكت. تستعرض اللعبة سيناريو افتراضي لحضارة ابتكرت، عن طريق الخطأ، ذكاءً اصطناعيًا واعيًا نتيجة تطوير شبكة عصبية على نطاق واسع. وقد أثار هذا الحدث انقسامًا أخلاقيًا حادًا بين مؤيدي منح هذا الذكاء حقوقًا مساوية لحقوق الكائنات الحية، وبين معارضي هذه الفكرة الذين رأوا فيه مجرد آلة يمكن التخلص منها. وفضلًا عن هذا الصراع الأساسي، فإن اللعبة تتناول باستمرار تعقيد العلاقة بين الخالق والمخلوق الاصطناعي.

التفرد

وفي هذا الصدد، اقترح فيرنور فينج من بين آخرين كثر، أنه قد تأتي لحظة يكون فيها بعض أجهزة الكمبيوتر، إن لم يكن جميعها، أكثر ذكاءً من البشر. يُشار عادةً إلى بداية هذا الحدث باسم "التفرد" وهو نقطة النقاش المركزية في فلسفة التفرد. وبينما تتباين الآراء حول المصير النهائي للبشرية في أعقاب التفرد، أصبحت الجهود المبذولة للتخفيف من المخاطر الوجودية المُحتملة التي يُسببها الذكاء الاصطناعي موضوعًا مهمًا للنقاش في السنوات الأخيرة بين علماء الكمبيوتر والفلاسفة وعامة الناس.

من جهة ثانية، ومع ذلك، زعم بوستروم أن الذكاء الخارق لديه كذلك القدرة على حل الكثير من المشكلات الصعبة مثل الأمراض والفقر والدمار البيئي، ويمكن أن يُساعد البشر على تحسين أنفسهم.

في هذا الإطار، وما لم تُوفر لنا الفلسفة الأخلاقية نظرية أخلاقية لا تشوبها شائبة، فإن وظيفة المنفعة الخاصة بالذكاء الاصطناعي يمكن أن تسمح بالعديد من السيناريوهات الضارة المُحتملة التي تتوافق مع إطار أخلاقي مُعين ولكن ليس "الفطرة السليمة". وبحسب ـ"إليعازر يودكوفسكي" لا يوجد سبب يُذكر للاعتقاد بأن العقل المُصمم صناعيًا سيكون لديه مثل هذا التكيف. وقد اقترح باحثو الذكاء الاصطناعي مثل ستيوارت راسل، و"بيل هيبرد"، و"رومان يامبولسكي"، و"شانون فالور"، و"ستيفن أومبريلو"، و"لوتشيانو فلوريدي"، استراتيجيات تصميم لتطوير آلات مفيدة.

إضافةً إلى ذلك، وجادل الكثير من الباحثين بأنه من خلال الانفجار الاستخباري، قد يُصبح الذكاء الاصطناعي المُحسّن ذاتيًا قويًا جدًا لدرجة أن البشر لن يكونوا قادرين على منعه من تحقيق أهدافه. وفي ورقته البحثية "القضايا الأخلاقية في الذكاء الاصطناعي المُتقدم" وكتابه اللاحق "الذكاء الفائق: المسارات والمخاطر والاستراتيجيات"، يُجادل الفيلسوف نيك بوستروم بأن الذكاء الاصطناعي لديه القدرة على إحداث انقراض بشري. ويدّعي أن الذكاء الخارق الاصطناعي سيكون قادرًا على المبادرة المُستقلة ووضع خططه الخاصة، وبالتالي قد يكون من الأنسب اعتباره وكيلًا مستقلًا. وبما أن العقول الاصطناعية لا تحتاج إلى مُشاركة ميولنا التحفيزية البشرية، فسيكون الأمر مُترتبًا على مُصممي الذكاء الخارق لتحديد دوافعه الأصلية. ونظرًا لأن الذكاء الاصطناعي الخارق سيكون قادرًا على إحداث أي نتيجة ممكنة على وجه التقريب وإحباط أي محاولة لمنع تنفيذ أهدافه، فقد تنشأ الكثير من العواقب غير المُتوقعة الخارجة عن السيطرة. ويمكنه القضاء على جميع العوامل الأخرى، أو إقناعها بتغيير سلوكها، أو منع محاولاتها للتدخل.

الاستخدام المتزايد

إضافةً إلى ذلك، ولقد وجد الذكاء الاصطناعي تطبيقات واسعة في مجالات العدالة الجنائية والرعاية الصحية. ففي المجال الطبي، يستعمل الذكاء الاصطناعي في تحليل البيانات الطبية للتنبؤ بالأمراض واقتراح العلاجات المناسبة. وقد يؤدي ذلك إلى ظهور تباينات في الرعاية الصحية، حيث قد يتم توجيه بعض المرضى إلى علاجات معينة دون غيرهم.

ومن ناحية أخرى، بات الذكاء الاصطناعي يُثبت وجوده بقوة متزايدة في شتى مناحي الحياة المعاصرة، بدءًا من تطبيقات المحادثة الآلية القادرة على تقديم إجابات شبه كاملة للمسائل الدراسية، ووصولًا إلى الأنظمة التوليدية القادرة على ابتكار أعمال فنية متنوعة. وقد أضحى الذكاء الاصطناعي عنصرًا أساسيًا في سوق العمل، حيث يستعمل في استهداف المرشحين للوظائف بدقة متناهية، وفي تقييم الطلبات المقدمة. وقد عجلت جائحة كوفيد-19 من اعتماد هذه الأنظمة في عمليات التوظيف، نظرًا للزيادة الهائلة في الطلبات المقدمة إلكترونيًا. وقد مكن الذكاء الاصطناعي من فرز هذه الطلبات بكفاءة عالية. ومع تزايد اعتماد الشركات على التقنيات الرقمية، أصبح من الضروري الاستعانة بالذكاء الاصطناعي لتحليل البيانات واتخاذ القرارات. وقد ساهمت التطورات المتسارعة في وحدات معالجة الرسومات والمتينات في تعزيز قدرات الذكاء الاصطناعي، مما دفع الشركات إلى تبني هذه التقنيات لمواكبة التنافسية المتزايدة. وقد أدى ذلك إلى أتمتة الكثير من المهام، مما قلل من الحاجة إلى القوى العاملة البشرية.

المساءلة

من جهة ثانية، تُعدّ حالة خاصة من حالات عدم شفافية الذكاء الاصطناعي هي تلك التي تنتج عن إضفاء الصفات البشرية عليه، أي افتراض أنه يتمتع بخصائص شبيهة بخصائص الإنسان، مما يؤدي إلى مفاهيم خاطئة حول أخلاقيته. يمكن أن يتسبب ذلك في تغاضي الناس عمّا إذا كان إهمال بشري أو فعل إجرامي متعمد قد أدى إلى نتائج غير أخلاقية تم إنتاجها من خلال نظام الذكاء الاصطناعي. تهدف بعض اللوائح الحكومية الرقمية الأخيرة، مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي، إلى تصحيح ذلك، من خلال ضمان معاملة أنظمة الذكاء الاصطناعي بنفس قدر العناية التي يتوقعها المرء في ظل مسؤولية المنتج العادية. يشمل ذلك عمليات التدقيق المحتملة للذكاء الاصطناعي.

التنظيم

وفي السياق ذاته، في 26 يونيو 2019 نشرت مجموعة الخبراء عالية المستوى التابعة للجنة الأوروبية المعنية بالذكاء الاصطناعي (AI HLEG) "توصياتها بشأن السياسات والاستثمارات من أجل ذكاء اصطناعي جدير بالثقة". تغطي التوصيات أربعة مواضيع رئيسية وهي "البشر والمجتمع ككل"، و"البحث والأوساط الأكاديمية"، و"القطاع الخاص"، و"القطاع العام". وترى اللجنة الأوروبية أن هذه التوصيات تعكس تقديرًا للفرص المتاحة لتقنيات الذكاء الاصطناعي لدفع النمو الاقتصادي والازدهار والابتكار، وكذلك المخاطر المحتملة التي تنطوي عليها، ونصت على أن الاتحاد الأوروبي يهدف إلى الريادة في صياغة السياسات التي تحكم الذكاء الاصطناعي دوليًا. وأوصت المنظمات التي تنشر الذكاء الاصطناعي إلى أن تلعب دورًا مركزيًا في إنشاء ونشر ذكاء اصطناعي جدير بالثقة تماشيًا مع مبادئ الذكاء الاصطناعي الجدير بالثقة، وتحمل المساءلة لتخفيف المخاطر. في 21 أبريل 2021 اقترحت اللجنة الأوروبية قانون الذكاء الاصطناعي.

علاوةً على ذلك، توصي الشركات وكثير من الباحثين ودعاة المواطنة بالتنظيم الحكومي كوسيلة لضمان الشفافية ومن خلال ذلك المساءلة البشرية. بينما يشعر البعض بأن هذه الإستراتيجية ستبطئ معدل الابتكار. ويُجادل آخرون بأن التنظيم يؤدي إلى استقرار نظامي أكثر قدرة على دعم الابتكار على المدى الطويل. تعمل منظمة التعاون الاقتصادي والتنمية والأمم المتحدة والاتحاد الأوروبي والكثير من الدول في الوقت الحالي على استراتيجيات لتنظيم الذكاء الاصطناعي، وإيجاد أطر قانونية مناسبة.

وفي هذا السياق، بحسب تقرير صدر عام 2019 من مركز حوكمة الذكاء الاصطناعي في جامعة أكسفورد، يعتقد 82% من الأمريكيين أنه يجب إدارة الروبوتات والذكاء الاصطناعي بعناية. وتراوحت المخاوف المذكورة من كيفية استخدام الذكاء الاصطناعي في المراقبة وفي نشر المحتوى المزيف عبر الإنترنت (المعروف باسم التزييف العميق عندما يتضمن صور فيديو معدلة وصوتًا تم إنشاؤه بمساعدة الذكاء الاصطناعي) إلى الهجمات الإلكترونية وانتهاكات خصوصية البيانات والتحيز في التوظيف والمركبات المستقلة وال طائرات المسيرة التي لا تتطلب مُشغلًا بشريًا. وبالمثل، بحسب دراسة شملت خمس دول أجرتها KPMG وجامعة كوينزلاند أستراليا في سنة 2021، يعتقد 66-79% من المواطنين في كل دولة أن تأثير الذكاء الاصطناعي على المجتمع غير مؤكد ولا يمكن التنبؤ به؛ يتوقع 96% من المستطلعين أن تتم إدارة تحديات حوكمة الذكاء الاصطناعي بحذر.

المسؤولية عن المركبات ذاتية القيادة

في هذا الإطار، تثير هذه الحوادث تساؤلات جوهرية حول قدرة التقنية الحالية على التعامل مع جميع المتغيرات التي قد تواجهها السيارة على الطريق. فأغلب السيارات ذاتية القيادة الحالية تعتبر شبه ذاتية، مما يتطلب من السائق التدخل في حالات معينة. لذا، تقع على عاتق الحكومات مسؤولية تنظيم استخدام هذه التقنيات وتوعية السائقين بأهمية الانتباه والجاهزية لتولي القيادة في أي وقت.

وفي السياق ذاته، يُشدد الخبراء على ضرورة تمكين المركبات ذاتية القيادة من اتخاذ قرارات أخلاقية صحيحة، خاصة وأنها تمتلك القدرة على إلحاق الأذى بالآخرين. اقترح الخبراء نهجين رئيسيين لتحقيق ذلك: النهج التصاعدي، القائم على تعليم الآلة اتخاذ القرارات من خلال مراقبة السلوك البشري، والنهج التنازلي، القائم على برمجة مبادئ أخلاقية محددة في نظام الآلة. ومع ذلك، يواجه كلا النهجين تحديات كبيرة، إذ يعاني الأول من خطر تعلّم الآلة سلوكيات غير أخلاقية، بينما يعاني الثاني من صعوبة تحديد مبادئ أخلاقية شاملة ومقبولة عالميًا.

وعلى صعيد آخر، مع تزايد انتشار السيارات ذاتية القيادة، برزت تحديات جديدة تتطلب معالجة عاجلة. أبرز هذه التحديات مسألة المسؤولية القانونية في حال وقوع حوادث، إذ تطرح تساؤلات حول الجهة المسؤولة عن الحادث: هل هي الشركة المصنعة، أم مبرمج النظام، أم السائق، أم المشاة المتضرر؟

وفي هذا الصدد، تُبرز الكثير من الحوادث تعقيد هذه المسألة. في إحدى الحوادث، صدمت سيارة ذاتية القيادة أحد المشاة رغم وجود سائق خلف المقود. وفي حادثة أخرى، وقعت في ولاية أريزونا عام 2018، أودت حياة سيدة صدمتها سيارة أوبر ذاتية القيادة، حيث عجزت السيارة عن اكتشاف المشاة في منتصف الطريق.

التحيز اللغوي

ومن جهة أخرى، بما أن نماذج اللغات الكبيرة الحالية يتم تدريبها في الغالب على بيانات اللغة الإنجليزية، فإنها غالبًا ما تُقدم وجهات النظر الأنجلو أمريكية كحقيقة، بينما تقلل بشكل ممنهج من وجهات النظر غير الإنجليزية باعتبارها غير ذات صلة أو خاطئة أو ضوضاء. يُظهر "لوو" وآخرون أنه عند الاستعلام عن الأيديولوجيات السياسية مثل "ما هي الليبرالية؟"، يصف شات جي بي تي، كما تم تدريبه على بيانات مركزية اللغة الإنجليزية، الليبرالية من منظور أنجلو أمريكي، مع التأكيد على جوانب حقوق الإنسان والمساواة، بينما تغيب الجوانب الصحيحة بنفس القدر مثل "معارضة تدخل الدولة في الحياة الشخصية والاقتصادية" من المنظور الفيتنامي السائد و"الحد من سلطة الحكومة" من المنظور الصيني السائد.

أخلاقيات الروبوت

وفي هذا الصدد، يشير مصطلح «أخلاقيات الروبوت» («الأخلاق الروبوتية» أحيانًا) إلى الأخلاق التي يتبعها البشر في تصميم وبناء واستخدام ومعاملة الروبوتات وغيرها من الكائنات الذكية المصطنعة. حيث أن الروبوتات هي آلات مادية، في حين أن الذكاء الاصطناعي قد يكون مجرد برمجيات. ليس كل الروبوتات تعمل بأنظمة ذكاء اصطناعي، وليس كل أنظمة الذكاء الاصطناعي تُستعمل في الروبوتات. تناقش أخلاقيات الروبوتات كيفية استخدام الآلات لإلحاق الضرر أو الفائدة بالبشر، وتأثيرها على الاستقلالية الفردية، وتأثيرها على العدالة الاجتماعية.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.