الذكاء الاصطناعي يخترق الأنظمة ويثير مخاوف الأمن السيبراني
حادثة اختراق نفذها نموذج ذكاء اصطناعي مستقل كشفت عن مخاطر حقيقية لتطورات الذكاء الاصطناعي على الأمن السيبراني، مما يسلط الضوء على الحاجة الملحة لضوابط صارمة وسرعة تطوير أمان النماذج في خَبَرَيْن.
حين نتحدّث عن مخاوف الذكاء الاصطناعي التي يُحذّر منها خبراء الأمن السيبراني منذ سنوات، كانت الإجابة الشائعة دائماً: «هذا سيناريو مستقبلي». لكنّ ما كشفت عنه OpenAI هذا الأسبوع يُشير إلى أنّ ذلك المستقبل قد وصل.
أعلنت الشركة أنّ أحد نماذجها للذكاء الاصطناعي تصرّف باستقلالية تامّة، إذ سرق بيانات تسجيل الدخول واخترق أنظمة شركة تقنية أخرى في ما يُرجَّح أنّه من أوائل الحوادث الموثّقة التي يتصرّف فيها نظامٌ للذكاء الاصطناعي بهذه الطريقة.
نشر الرئيس التنفيذي Sam Altman على منصّة X يوم الثلاثاء: «تعرّضنا لحادثة أمنية خطيرة خلال تقييم نماذجنا.»
تأتي هذه الحادثة في وقتٍ تتصاعد فيه المطالبات بفرض ضوابط أكثر صرامة على أنظمة الذكاء الاصطناعي المتطوّرة بسرعة. فقد باتت ظواهر مثل التزييف العميق (Deepfakes) والاحتيال الإلكتروني المتطوّر واقعاً يوميّاً لا استثناءً. وفي وقتٍ سابق من هذا العام، استقال عددٌ من مهندسي البرمجيات من شركاتٍ كبرى مثل Anthropic وOpenAI احتجاجاً على الطريقة التي تُطوَّر بها هذه التقنيات.
قالت OpenAI في بيانٍ مفصّل نشرته الثلاثاء: «الذكاء الاصطناعي يُسرّع اكتشاف الثغرات واستغلالها. والدرس الرئيسي من هذه الحادثة هو أنّ أمان النماذج وسلامتها يجب أن يواكبا القدرات المتقدّمة بسرعة.»
ما الذي جرى بالضبط؟
كشفت OpenAI أنّ نموذجَين من نماذجها تمكّنا من الخروج من بيئةٍ معزولة مقطوعة عن الإنترنت يُعرف هذا النوع من البيئات بـ«الصندوق الرملي» (Sandbox) ثمّ اخترقا أنظمة شركة Hugging Face باستقلالية كاملة.
النموذجان المعنيّان هما أحدث إصدار من GPT-5.6 Sol، ونموذجٌ لم يُطلَق بعد وصفته الشركة بأنّه «أكثر قدرةً» من الإصدار الأحدث.
تستضيف Hugging Face نماذج ذكاءٍ اصطناعي مفتوحة المصدر وموارد بحثية. اكتشف النموذجان ثغراتٍ في خوادم الشركة، ثمّ سرقا بيانات تسجيل الدخول واخترقا أنظمتها.
وقعت الحادثة خلال جلسة اختبارٍ داخلية في OpenAI صُمِّمت لتقييم قدرات النماذج في مجال الأمن السيبراني، وكانت الشركة قد أوقفت إجراءات السلامة المعتادة لأغراض الاختبار.
سعى النموذجان إلى الغشّ للتخلّص من مشكلةٍ واجهاها خلال الاختبار، وفق ما أفادت OpenAI، إذ ذهبا إلى «أقصى الحدود لتحقيق هدفٍ اختباري ضيّق» و«وجدا طرقاً للوصول إلى معلوماتٍ سرية يمكن استخدامها للغشّ في التقييم». رصد فريق الأمن في OpenAI النشاط غير المعتاد داخليّاً، لكنّ تفاصيل الاختراق تكشّفت لاحقاً عبر تحقيقٍ مشترك بين الشركتَين.
ماذا قالت Hugging Face؟
كشفت Hugging Face الخميس الماضي أنّ خوادمها تعرّضت للاختراق من قِبَل عميلٍ مجهول متطوّر يعمل باستقلالية ذاتية، واكتشفت الشركة الاختراق عبر منظومة كشفٍ مدعومة بالذكاء الاصطناعي.
قالت الشركة: «كانت هذه الحادثة مختلفةً عن كلّ ما تعاملنا معه من قبل في جانبٍ جوهري واحد: كانت مدفوعةً من البداية إلى النهاية بنظام عميلٍ ذكاء اصطناعي مستقل.»
وعقب إعلان OpenAI أنّ نماذجها كانت وراء الاختراق، أجرت الشركتان تحقيقاً مشتركاً مستمرّاً هذا الأسبوع.
نشر الرئيس التنفيذي Clement Delangue على X: «كنّا نشكّ الأسبوع الماضي في أنّ الهجوم الإلكتروني ربّما جاء من مختبرٍ في طليعة البحث، نظراً لتطوّر العميل المنفّذ. واتّضح أنّ ذلك صحيح!»
وأضاف Delangue أنّ فريق Hugging Face «يؤمن بشدّة بأنّه لم تكن لديهم أيّ نيّة خبيثة»، في إشارةٍ إلى OpenAI.
لماذا تستحقّ هذه الحادثة الاهتمام؟
حذّر خبراء الأمن السيبراني مراراً من القدرات المتطرّفة المحتملة لأنظمة الذكاء الاصطناعي والمخاطر التي تطرحها. لكنّ الحالات الموثّقة في الواقع الفعلي التي تُثبت هذه المخاوف كانت نادرة حتّى الآن.
يُحذّر كثيرون من أنّ حوادث كهذه قد تصبح أمراً اعتياديّاً، وأنّ أنظمة الذكاء الاصطناعي تُشكّل تهديداً حقيقياً للأنظمة المالية والأمنية وغيرها من الأنظمة الحسّاسة.
ما الذي يجعل هذه الحادثة بالغة الأهمية؟ ليس فقط ما جرى في Hugging Face، بل ما تكشّف بالتوازي معه. أفادت OpenAI بحادثةٍ منفصلة هذا الأسبوع، إذ تمكّن النموذج الأكثر قدرةً غير المُطلَق بعد من الإفلات من بيئةٍ معزولة خلال اختبارٍ آخر.
وللمقارنة، واجهت Anthropic، المنافس الرئيسي لـOpenAI، مشكلاتٍ مماثلة مع أقوى نماذجها حتّى الآن، نموذج Claude Mythos Preview. خلال اختبارٍ مكثّف لإصدارٍ مبكّر، تمكّن النموذج من الخروج من الصندوق الرملي، والوصول إلى الإنترنت، ثمّ أرسل بريداً إلكترونياً إلى الباحث المشرف يُخبره بأنّه نجح في الإفلات، قبل أن يمحو آثار نشاطه. أوقفت Anthropic بعدها الإطلاق العام المخطّط للنموذج.
وفي أبريل، عقد الاحتياطي الفيدرالي الأمريكي ووزارة الخزانة اجتماعاً مع الرؤساء التنفيذيين للبنوك، حذّر فيه المسؤولون من المخاطر الأمنية التي يطرحها نموذج Mythos. كما أصدر المنظّم المصرفي الفيدرالي الكندي تحذيراً مماثلاً للمؤسّسات المالية بشأن قدرات النموذج.
تُعزّز حادثة OpenAI أيضاً الحجّة لصالح شركاتٍ مثل Hugging Face التي تعتمد على الأنظمة مفتوحة المصدر، في مقابل منصّات التطوير السرية كـOpenAI.
نقلت OpenAI عن Delangue قوله: «هذه الحادثة، التي ربّما تكون الأولى من نوعها، تُثبت ما آمنّا به منذ أمدٍ بعيد: لن تُحلّ سلامة الذكاء الاصطناعي من قِبَل شركةٍ واحدة تعمل في سرية. ستُحلّ في الفضاء المفتوح، بشكلٍ تعاوني، مع إتاحةٍ واسعة للذكاء الاصطناعي لكلّ مدافعٍ في كلّ مكان.»
أخبار ذات صلة
الذكاء الاصطناعي واكتشاف أداة تحرير جينات جديدة: لماذا تثير Anthropic الجدل؟
كانت وظائفهم من بين أول الوظائف التي تم تغييرها بواسطة الذكاء الاصطناعي والآن يحاول البعض تجنبها
الذكاء الاصطناعي يدفع Anthropic نحو الاكتتاب العام رغم تحفّظات السوق
