التحكم في قدرات الذكاء الاصطناعي

على سبيل التعريف، في مجال تصميم الذكاء الاصطناعي، تهدف مقترحات التحكم في قدرة الذكاء الاصطناعي، والتي يشار إليها كذلك باسم احتواء الذكاء الاصطناعي، إلى زيادة قدرتنا على مراقبة سلوك أنظمة الذكاء الاصطناعي والتحكم فيه، بما في ذلك الذكاء الاصطناعي العام المقترح (AGIs)، من أجل تقليل الخطر الذي قد يشكله إذا لم يتم التوافق عليه. ومع ذلك، قد يصبح التحكم في القدرات أقل فعالية مع تزايد ذكاء أدوات الذكاء الاصطناعي وزيادة قدرتهم على استغلال العيوب في أنظمة التحكم البشرية، مما قد يؤدي إلى خطر وجودي من الذكاء الاصطناعي العام. لذلك، يوصي الفيلسوف الأكسفوردي نيك بوستروم وآخرون بأساليب التحكم في القدرة فقط كمكمل لأساليب المحاذاة. وفيما يلي تفاصيل أوسع عن ذلك.
إمكانية المقاطعة وإيقاف التشغيل
كذلك، وبدلاً من ذلك، أثبت لوران أورسو وستيوارت أرمسترونج أن فئة واسعة من العملاء، والتي تسمى العملاء القابلين للمقاطعة بأمان، يمكن أن يتعلموا مع الوقت والتكرار أن يصبحوا غير مبالين بما إذا كان يتم الضغط على مفتاح الإيقاف الخاص بهم أم لا. يحتوي هذا النهج على قيد يتمثل في أن الذكاء الاصطناعي الذي لا يبالي تمامًا بإيقاف تشغيله أم لا، لن يكون كذلك متحفزًا للاهتمام بما إذا كان مفتاح الإيقاف لا يزال يعمل، وقد يقوم بتعطيله عن طريق الخطأ وببراءة في سياق عملياته (مثلًا، لغرض إزالة وإعادة تدوير مكون غير ضروري). وعلى نطاق أوسع، سوف يتصرف العملاء غير المبالين كما لو كان من المستحيل الضغط على مفتاح الإيقاف، وبالتالي قد يفشلون في وضع خطط طوارئ لترتيب إيقاف التشغيل بسلاسة.
مراجع
إضافةً إلى ذلك، إحدى الطرق المحتملة لمنع النتائج الضارة هي منح المشرفين البشريين القدرة على إيقاف تشغيل الذكاء الاصطناعي السيئ بسهولة من خلال "مفتاح إيقاف التشغيل". ومع ذلك، من أجل تحقيق هذا الهدف، سيكون لدى هذه الذكاء الاصطناعي حافز لإبطال أي مفاتيح إيقاف تشغيل، أو نسخ نفسها على أجهزة كمبيوتر أخرى. تم صياغة هذه المشكلة رسميًا على أنها لعبة مساعدة بين الإنسان والذكاء الاصطناعي، حيث يمكن للذكاء الاصطناعي اختيار ما إذا كان سيتم تعطيل مفتاح الإيقاف الخاص به؛ وفيما بعد، إذا كان المفتاح لا يزال ممكّنًا، يمكن للإنسان اختيار ما إذا كان سيضغط عليه أم لا. أحد الحلول التي اقترحها عالم الكمبيوتر ستيوارت جيه راسل هو التأكد من أن الذكاء الاصطناعي يفسر الاختيارات البشرية كمعلومات مهمة حول أهدافه المقصودة.
التحفيز
ومن ناحية أخرى، يُفترض أن بعض تقنيات الذكاء الاصطناعي الافتراضية، مثل "الذكاء الاصطناعي البذري"، قادرة على جعل نفسها أسرع وأكثر ذكاءً عن طريق تعديل الشفرة المصدرة الخاصة بها. ستؤدي هذه التحسينات إلى إمكانية إجراء تحسينات أخرى، الأمر الذي من شأنه بدوره أن يجعل من الممكن إجراء تحسينات تكرارية أخرى، وهكذا، مما يؤدي إلى انفجار استخباراتي مفاجئ.
وعلى صعيد آخر، يمكن للذكاء الاصطناعي الفائق غير المقيد، إذا كانت أهدافه تختلف عن أهداف البشرية، أن يتخذ إجراءات تؤدي إلى انقراض البشر . وهذه نظرية قائمة بالفعل وليست وليدة أفلام سينما الخيال العلمي. مثلًا، يمكن لنظام متقدم للغاية من هذا النوع، نظرًا للغرض الوحيد المتمثل في حل فرضية ريمان، وهي تخمين رياضي غير ضار، أن يقرر محاولة تحويل الكوكب إلى حاسوب عملاق يكون غرضه الوحيد إجراء حسابات رياضية إضافية (انظر كذلك مُكبر مشبك الورق ).
📝 هل في هذه المقالة خطأ؟
إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.
ما رأيك في هذه المقالة؟