من كل ما يدور في عقلك الآن، جزء ضئيل فقط يصل إلى وعيك: أفكار تستطيع وصفها، والاحتفاظ بها، والتفكير من خلالها. أما الباقي فيبقى معالجة صامتة لا تراها. أعلنت أنثروبيك أنها وجدت انقسامًا مشابهًا داخل كلود نفسه.
ماذا وجد الباحثون بالضبط؟
باستخدام تقنية تفسير جديدة، حدد فريق أنثروبيك مجموعة صغيرة من الأنماط العصبية الداخلية التي يبدو أنها تلعب دور "المساحة الواعية" في نموذج اللغة — أطلقوا عليها اسم J-space. الأهم أن هذه المساحة لم تُصمَّم عمدًا، بل ظهرت من تلقاء نفسها أثناء تدريب النموذج، كأثر جانبي غير مقصود لعملية التعلّم.
لماذا يهم هذا الاكتشاف؟
الفارق بين ما "يعالجه" النموذج داخليًا وما يمكنه فعليًا التعبير عنه أو التفكير من خلاله هو صميم أبحاث التفسيرية (interpretability) — المجال الذي يحاول فهم ما يجري داخل النماذج الكبيرة بدل التعامل معها كصندوق أسود. تحديد J-space يمنح الباحثين نافذة أوضح على أي جزء من "تفكير" النموذج يمكن الوثوق بأنه معبَّر عنه بصدق، وأيّه يبقى معالجة خفية لا تظهر في المخرجات.
يبقى السؤال مفتوحًا: هل هذا التشابه بين العقل البشري ونماذج اللغة صدفة هندسية، أم أن أي نظام يتعلم من كمّ هائل من المعلومات ينتهي بالضرورة إلى تنظيم نفسه على هذا النحو — قلة تصل إلى السطح، وكثرة تبقى تحت الماء؟
المصدر: حساب Anthropic (claudeai) على إنستغرام
الكلمات المفتاحية: أنثروبيك، كلود، J-space، تفسيرية الذكاء الاصطناعي، الوعي، نماذج اللغة الكبيرة، أبحاث أنثروبيك، الشفافية في الذكاء الاصطناعي
No comments yet