كشف باحثو شركة Prizmz Security عن ثغرة أمنية في ChatGPT تنتمي لفئة هجمات حقن الأوامر — وهي هجمات تستغل ثقة النماذج التوليدية في المحتوى الخارجي.
كيف تعمل الثغرة؟
تعتمد على ميزة تلخيص صفحات الإنترنت. إذا طلبت من ChatGPT تلخيص صفحة تحتوي على ملف Markdown مُخترَق، يعرض النموذج الروابط والصور المُضمَّنة فيه — بما فيها الخبيثة — لأنه لا يُميّز بين المحتوى الذي أنشأه هو والمحتوى المُحقون خارجياً.
ماذا يستطيع المهاجم الحصول عليه؟
عنوان IP الخاص بك، موقعك الجغرافي، بيانات جهازك، وأي معلومات شاركتها مع النموذج — كلها تُرسَل خفيةً إلى المهاجم. قد تظهر أيضاً روابط خبيثة أو QR codes، مسحها يمنح المهاجم تحكماً كاملاً في هاتفك.
ما يجعلها مقلقة أكثر
الباحث أندي أحمدي يُحذّر من أن الثغرة قد لا تكون خاصة بـ ChatGPT، بل مرتبطة بآلية عمل النماذج التوليدية بشكل عام. يقول: «نماذج الذكاء الاصطناعي الآن أصبحت أشبه بأنظمة التشغيل والمتصفحات، ولديها ثغرات بالمعنى نفسه.»
أوبن إيه آي لم تُصدر أي تعليق حتى الآن، ولم توضّح إن كانت قادرة على إصلاح الثغرة أم لا.
توصية عملية: كن حذراً حين تطلب من ChatGPT تلخيص صفحات من مصادر غير موثوقة.
المصدر: الجزيرة نت
No comments yet