مرجع
آخر الزيارات

مركز سلامة الذكاء الاصطناعي

246 كلمة•0 مشاهدة•🗒️ منذ 3 أيام
باختصار: مركز سلامة الذكاء الاصطناعي ( CAIS ) هو منظمة أمريكية غير ربحية مقرها سان فرانسيسكو، تعمل على تعزيز التطوير والنشر الآمن للذكاء الاصطناعي. تجد هنا «أنشطة» و«بحث».
المحتويات
  1. أنشطة
  2. بحث

على سبيل التعريف، مركز سلامة الذكاء الاصطناعي ( CAIS ) هو منظمة أمريكية غير ربحية مقرها سان فرانسيسكو، تعمل على تعزيز التطوير والنشر الآمن للذكاء الاصطناعي. يشمل عمل CAIS البحث في مجال السلامة التقنية للذكاء الاصطناعي وأخلاقياته، والدعوة، والدعم لتنمية مجال أبحاث سلامة الذكاء الاصطناعي. تأسست في سنة 2022 على يد دان هندريكس وأوليفر تشانغ. وفيما يلي تفاصيل أوسع عن ذلك.

وفي هذا السياق، في مايو 2023، نشرت CAIS بيانًا حول خطر انقراض الذكاء الاصطناعي، ووقع عليه مئات من أساتذة الذكاء الاصطناعي، وقادة شركات الذكاء الاصطناعي الكبرى، وشخصيات عامة أخرى.

أنشطة

ومن جهة أخرى، في عام 2023، حاولت بورصة العملات المشفرة أف تي أكس، التي أفلست في نوفمبر 2022، استرداد 6.5 مليون دولار كانت قد تبرعت بها إلى CAIS في وقت سابق من ذلك العام.

  • انظر كذلك
  • سلامة الذكاء الاصطناعي
  • مركز الذكاء الاصطناعي المتوافق مع الإنسان
  • مراجع

علاوةً على ذلك، يعد مركز صندوق عمل سلامة الذكاء الاصطناعي أحد الرعاة لمشروع قانون ولاية كاليفورنيا SB 1047، وهو قانون الابتكار الآمن والمضمون لنماذج الذكاء الاصطناعي الرائدة.

وفي السياق ذاته، تتضمن المبادرات الأخرى مجموعة حوسبة لدعم أبحاث سلامة الذكاء الاصطناعي، ودورة تدريبية عبر الإنترنت بعنوان "مقدمة إلى سلامة التعلم الآلي"، ومنحة دراسية لأساتذة الفلسفة لمعالجة المشكلات المفاهيمية.

بحث

في هذا الإطار، نشر باحثو CAIS دراسةً بعنوان "نظرة عامة على مخاطر الذكاء الاصطناعي الكارثية"، تُفصّل سيناريوهات المخاطر واستراتيجيات تخفيفها. تشمل المخاطر الموصوفة استخدام الذكاء الاصطناعي في الحروب المستقلة أو في هندسة الأوبئة، إلى جانب قدرات الذكاء الاصطناعي في الخداع والاختراق. كما وصف عملٌ آخر، أُجري بالتعاون مع باحثين في جامعة كارنيجي ميلون، طريقةً آليةً لاكتشاف الهجمات المعادية لنماذج اللغة الكبيرة، والتي تتجاوز إجراءات السلامة، مما يُسلّط الضوء على قصور أنظمة السلامة الحالية.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.