أنثروبيك تشارك أكسنتشر في تقييم مستقل «مضمّن» لنماذجها — باستثمار مشترك يتجاوز مليار دولار

أعلنت أنثروبيك شراكة مع أكسنتشر لتقييم مستقل لنماذجها، تقودها Faculty — الذراع المتخصصة بالذكاء الاصطناعي داخل أكسنتشر — وتشمل تقييم النماذج واختبار اختراقها (red-teaming)، وتقييمات المحاذاة، واختبار ضوابط الأمان. الخطوة تأتي تنفيذًا لالتزام أعلنه الرئيس التنفيذي داريو أموديي في مقالته «يجب أن نواكب الحافة»، بإدخال مقيّمين إلى داخل الشركة نفسها.

تتوقع أنثروبيك وأكسنتشر أن يستثمر كل طرف مليار دولار على الأقل في بناء هذه القدرة خلال خمس سنوات.

ما الفرق بين مقيّم «مضمّن» ومقيّم خارجي؟

التقييم الخارجي التقليدي يفحص النموذج من الخارج، بصلاحيات محدودة. المقيّم المضمّن مختلف: يعمل داخل الشركة بصلاحيات تقارب صلاحيات الموظف، فيتابع النماذج وهي تتشكل أثناء التدريب، ويطّلع على القرارات التي تحكم بناءها ونشرها، ويتحدث مباشرة مع الموظفين. هذا الموقع يتيح له تقييم طريقة عمل الشركة، والتحقق من التزامها بوعود السلامة التي أعلنتها، واكتشاف نقاط عمياء قد لا تراها الشركة نفسها.

لا معايير متفق عليها بعد

تقر أنثروبيك بأن التقييم المضمّن مجال جديد لا توجد له بعد معايير واضحة لما يجب أن يصل إليه المقيّم أو كيف يُبلّغ عمّا يجده، ولا نظام تمويل مستقر له. لذلك تموّل أنثروبيك عمل أكسنتشر مباشرة الآن، وتتحاور بالتوازي مع METR وجهات تقييم أخرى غير ربحية لتجربة عناصر من الفكرة بتمويل مستقل. الشراكة غير حصرية — ستعمل أنثروبيك مع مقيّمين آخرين قريبًا، وستعمل أكسنتشر مع شركات ذكاء اصطناعي أخرى.

أن تفتح شركة ذكاء اصطناعي أبوابها الداخلية لعين مستقلة لا تقلّل مسؤوليتها عمّا تبنيه، لكنها تجعل الوعد بالسلامة قابلًا للتحقق لا مجرد تصريح. والسؤال الذي يبقى مفتوحًا: هل سيتحوّل هذا إلى معيار صناعي تلتزم به بقية الشركات الكبرى، أم يبقى استثناءً فرديًا؟

الكلمات المفتاحية: أنثروبيك، أكسنتشر، تقييم مستقل، أمان النماذج، المحاذاة

المصدر: أنثروبيك — https://www.anthropic.com/news/accenture-embedded-evaluation