ناديلا يدعو لمعاملة نماذج الذكاء الاصطناعي كمخاطر داخلية: الضوابط خارج النموذج

نشر ساتيا ناديلا، رئيس مايكروسوفت التنفيذي، مقالًا بعنوان «النماذج كمخاطر داخلية في عصر الذكاء الفائق»، يدعو فيه إلى معاملة النماذج المتقدمة كما تُعامَل الجهات القوية داخل المؤسسة: بصلاحيات محدودة وسجلات ومراقبة.

الفكرة المحورية

يقول ناديلا إن البرمجيات التقليدية كان يمكن تتبّع سلوكها إلى مسار شيفرة محدد، أما النماذج اليوم فلا نستطيع نسب سلوكها إلى بيانات تدريب أو أوزان بعينها، ومع ذلك نمنحها وصولًا إلى أحساس البيانات وقدرة على اتخاذ إجراءات حرجة. ولذلك يدعو إلى «فصل توريد الذكاء عن السلطة عليه»، وإلى ضوابط تقع خارج النموذج نفسه، تفصل النموذج عن الإطار الذي ينسّق عمله وعن مساحة الأفعال المتاحة له. ولا يفترض أن النماذج خبيثة، بل أن أي فاعل قادر قد يخطئ أو يُخترق.

المبادئ السبعة

يعرض المقال مبادئ للمراقبة: تنوّع النماذج بحيث لا يعتمد أمر مهم على نموذج واحد أو يتحقق من عمله بنفسه، ومراقبة كل شيء بأدلة مقروءة بشريًا لا يمكن العبث بها، وقابلية التحقق باختبار النظام كله بما فيه حالات الفشل والهجوم، وضوابط مستقلة تحدد ما يصل إليه النموذج، وتدقيق مستقل لا يخضع للنموذج المُدقَّق، واحتواء يفترض اختراق النموذج منذ البداية مع إمكان إيقافه وسط المهمة، وإفصاح عن الحوادث وتبادل الدروس بين الصناعة. ويشدد على شفافية سلسلة الاستدلال شرطًا لازمًا لكنه غير كافٍ.

خلاصة

جملته الأخيرة تلخص الموقف: أكثر الأنظمة جدارة بالثقة ليست التي فيها النموذج الذي نثق به أكثر، بل التي تتيح لنا أن نثق بالنموذج أقل. فهل تصل الصناعة إلى معايير مشتركة لذلك قبل أن تسبقها الحوادث؟

الكلمات المفتاحية: ساتيا ناديلا، مايكروسوفت، أمان الذكاء الاصطناعي، الذكاء الفائق، الحوكمة

المصدر: مقال ساتيا ناديلا على X — https://x.com/i/article/2108928845969780736