أماندا أسكيل

التعليم والمسار المهني

ومن ناحية أخرى، يدور عمل أسكل حول سؤال عملي واضح: كيف يمكن تحويل المبادئ الأخلاقية إلى إشارات تدريبية داخل نموذج لغوي كبير. يدخل السؤال الفلسفي إلى هذه العملية مشكلة تصميم. يحدد الباحثون السلوك المرغوب ثم يكتبون مبادئ أو معايير. ثم يعرضون على النموذج أمثلة. تقيس عملية التدريب قرب المخرجات من هذه المعايير.

في هذا الإطار، ترتبط أسكل بكلود بعملها في أنثروبيك على شخصية النموذج وطرق توجيه سلوكه. تشير أنثروبيك إلى أن أسكل تقود عمل الشخصية في كلود، وأنها المؤلفة الأساسية لوثيقة دستور كلود.

كذلك، درست أسكل الفلسفة في جامعة دندي، ثم حصلت على درجة في الفلسفة من جامعة أكسفورد، ثم نالت الدكتوراه من جامعة نيويورك. ركز عملها الأكاديمي على فلسفة الأخلاق، ونظرية القرار، والأسئلة المتعلقة بكيفية ترتيب القيم عندما تكون النتائج واسعة أو بعيدة المدى.

ومن جهة أخرى، عملت بعد الدكتوراه في أوبن أيه آي بين عامي 2018 و2021، حيث درست قضايا السياسة والسلامة المرتبطة بتطوير أنظمة الذكاء الاصطناعي. ثم انتقلت إلى أنثروبيك عام 2021، وتركز عملها هناك على الضبط الدقيق والمواءمة وتدريب النماذج على الصدق والسلوك الحواري المرغوب.

وفي هذا السياق، شاركت أسكل في بحث «الذكاء الاصطناعي الدستوري»، وهو منهج طورته أنثروبيك لتقليل المخرجات الضارة عبر مبادئ مكتوبة وردود راجعة ينتجها النموذج نفسه. تبدأ الآلية بإجابة أولية. يراجع النموذج تلك الإجابة وفق مبدأ محدد. يقترح نسخة أفضل. ثم تستعمل النسخ المعدلة في التدريب. لاحقًا يدخل النموذج في مرحلة تعلم تعزيزي من تغذية راجعة ناتجة عن الذكاء الاصطناعي.

الأهمية

في هذا الإطار، وصلت أسكل بين الفلسفة التحليلية وتصميم النماذج اللغوية. فهي تتعامل مع النموذج نظامًا يحتاج إلى بنية سلوكية، لا مجرد آلة توليد نصوص. وقد أدرجتها مجلة تايم ضمن قائمة أكثر الشخصيات تأثيرًا في الذكاء الاصطناعي لعام 2024، في سياق دورها في تشكيل سلوك كلود.