أعلنت أنثروبيك، بالتعاون مع AE Studio، عن بحث جديد يعالج مشكلة قديمة في الذكاء الاصطناعي: بعض المعارف مفيدة وخطيرة في آن واحد — كمعرفة الفيروسات التي قد تصنع لقاحًا منقذًا أو سلاحًا بيولوجيًا فتّاكًا.
ما هو GRAM؟
تقدّم الورقة طريقة تدريب أطلق عليها اسم GRAM، تضع القدرات مزدوجة الاستخدام (dual-use) — كمعرفة الفيروسات — داخل وحدات (modules) قابلة للفصل والإزالة من النموذج، بدل دمجها في نسيجه الكامل. هذا يعني إمكانية "نزع" هذه المعرفة الحساسة عند الحاجة دون المساس بقدرة النموذج العامة.
لماذا هذا مهم الآن؟
مع تسارع قدرة النماذج على الاستدلال العلمي العميق، صار التحدي ليس "هل يعرف النموذج؟" بل "من يملك مفتاح ما يعرفه، ومتى؟". فصل المعرفة الخطرة في وحدة قابلة للإزالة يفتح الباب لضبط أدق: يمكن لباحث موثوق الوصول الكامل، بينما يبقى المستخدم العادي محميًا من إساءة الاستخدام.
العلم دائمًا سكين ذو حدين — والسؤال الحقيقي ليس كيف نمنع المعرفة، بل من نأتمن على حدّها الأخطر؟
No comments yet