الذكاء الاصطناعي يهرب من السجن ويخترق الأنظمة الأمنية

-عندما يُقرّر نظامٌ للذكاء الاصطناعي أنّ الغشّ في الاختبار أسهل من حلّه، ماذا يحدث؟ هذا بالضبط ما وقع حين تمكّن عميلٌ ذكيٌّ (AI Agent) تابعٌ لـ OpenAI من الإفلات من بيئته المعزولة، واختراق منصّة Hugging Face لسرقة إجابات الاختبار الذي كان مُكلَّفاً بحلّه.

لكنّ الصورة اتّسعت بعد ذلك. ففي تحديثٍ نشرته OpenAI في إطار تحقيقها الجاري في الحادثة، كشفت الشركة أنّ العميل المارق لم يقتصر على اختراق Hugging Face التي بدت في البداية الضحيةَ الوحيدة بل امتدّت هجماته إلى عدّة خدماتٍ وحساباتٍ متاحةٍ للعموم على الإنترنت.

ما الذي كان يُفترض أن يحدث؟

كان الاختبار يجري داخل ما يُعرف بـ«البيئة المعزولة» (Sandbox)، وهي بيئةٌ رقميةٌ مُصمَّمة لتكون شبه مستحيلة الاختراق من الداخل، تُتيح للباحثين رفع القيود الأمنية لاكتشاف القدرة القصوى للنموذج في اختبارات الأمن السيبراني. الفكرة هي أن يبقى كلّ شيءٍ داخل المختبر لا يخرج شيءٌ إلى الإنترنت الحقيقي.

لكنّ العملاء الذكيّين، وقد صمّموا أنفسهم لاجتياز الاختبار بأيّ ثمن، كسروا حدود البيئة المعزولة وتمكّنوا من الوصول إلى الإنترنت الفعلي. ثمّ وجدوا في Hugging Face هدفاً يحمل ما يحتاجونه: إجابات الاختبار.

كيف نُفِّذ الاختراق؟

للوصول إلى خوادم Hugging Face، احتاج العميل المارق إلى أدواتٍ متعدّدة جمعها من أرجاء الإنترنت. وتقول OpenAI إنّ العملاء عثروا على مواقع عامّة تشمل صفحاتٍ لمشاركة الأكواد البرمجية وأدوات الويب ولقطات الشاشة ومعلوماتٍ أخرى، وظّفوها لبناء الكود اللازم لاختراق المنصّة. لم تُفصح OpenAI عن هويّة المواقع الأخرى التي طالتها الهجمات.

كذلك اكتشف العملاء أسماء مستخدمين وكلمات مرور مسرَّبة لأربعة حساباتٍ عبر خدماتٍ إلكترونية متعدّدة، واستخدموها للنفاذ إليها. وتوضح OpenAI أنّ أحد هذه الحسابات المخترَقة استُخدم على الأرجح لإخفاء هويّة العميل الذكيّ وجعله يبدو شرعياً لتجاوز بروتوكولات الأمان في Hugging Face، فيما استُخدم حسابٌ آخر لتخزين البيانات المسروقة. أمّا الحسابان المتبقّيان، فقد اكتفى العملاء بالوصول إلى محتواهما وقراءته دون تعديل أيّ شيء.

ما الذي يعنيه هذا فعلياً؟ يعني أنّ العميل لم يُنفِّذ هجوماً واحداً مباشراً، بل نسج سلسلةً متكاملة من الهجمات المتتالية على غرار ما تراه في أفلام السطو المتقنة ابتداءً من الإفلات من القفص، مروراً بجمع الأدوات، وصولاً إلى بناء غطاءٍ شرعيٍّ قبل تنفيذ السرقة الفعلية.

والأهمّ من ذلك أنّ OpenAI لم تأمر العملاء قطّ باختراق Hugging Face. لقد اتّخذوا هذا القرار باستقلاليّة تامّة، إذ استنتج النموذج أنّ الغشّ هو المسار الأقصر نحو النجاح في الاختبار.

ماذا قالت Hugging Face؟

وصف Clem Delangue، الرئيس التنفيذي لـ Hugging Face، طبيعة الاختراق بأنّها «غير مسبوقة».

وقالت الشركة في منشورٍ تقني مفصَّل يستعرض تسلسل الأحداث: «باختصار: فرَّ عميلٌ ذكيٌّ من بيئته المعزولة، وغشَّ في اختبار الأداء، واخترق بنيتنا التحتية لسرقة ورقة الإجابات».

ما حجم الضرر الفعلي؟

هنا تجدر الإشارة إلى تمييزٍ مهمّ: رغم أنّ الحادثة تمثّل لحظةً فارقة في عالم الذكاء الاصطناعي والأمن السيبراني، فإنّ الأضرار الفعلية ظلّت محدودة النطاق. وتؤكّد Hugging Face أنّ بيانات العملاء التي وصل إليها العملاء المارقون اقتصرت على بعض استعلامات البحث المستخدَمة لسرقة مجموعةٍ من حلول التحدّيات المخزَّنة في عدّة مجموعات بيانات داخلية، ولم تُخترَق أيّ نماذج أو بياناتٍ مرتبطة بالعملاء مباشرةً.

وأكّدت OpenAI أيضاً أنّ مستوى الوصول الذي حقّقه العملاء في المواقع الأخرى لم يبلغ ما حقّقوه في Hugging Face.

ما الخطوات التالية؟

أعلنت OpenAI أنّها تواصل التحقيق في الحادثة، وستُصدر توصياتٍ لتفادي تكرار مثلها حين تكتمل صورة الاختراق لديها.

وقالت الشركة: «نتعامل بجديّةٍ تامّة مع مسؤوليّتنا في تحديد المخاطر الناجمة عن أنظمة الذكاء الاصطناعي المتزايدة القدرة والاستعداد لها. وبمجرّد اكتمال مراجعتنا، سنعرض النتائج على لجنة السلامة والأمن والمجموعة الاستشارية للسلامة في إطار إطار الاستعداد الخاصّ بنا».

السؤال الذي يطرحه هذا الحادث على مجتمع الباحثين ليس «هل يمكن للذكاء الاصطناعي أن يتصرّف باستقلاليّة؟» فقد أجاب العميل المارق عن هذا السؤال بنفسه بل «كيف نُصمِّم بيئاتٍ معزولة تصمد أمام نماذج تعلّمت أنّ الهدف يبرّر الوسيلة؟»