مراقبة نماذج الذكاء الاصطناعي لضمان الأمان

منذ أن كشفت Anthropic عن نموذجها الجديد Mythos الذي وصفته بأنّه «متقدّمٌ بفارقٍ كبير» على سائر النماذج في مجال الأمن السيبراني، بات السؤال الذي يؤرّق الحكومات والبنوك وشركات الطاقة واحداً: من يراقب هذه النماذج قبل أن تصل إلى أيدي الجميع؟

الإجابة جاءت هذا الأسبوع من المعهد الوطني الأمريكي للمعايير والتقنية (NIST)، الذي أعلن الثلاثاء عن اتفاقيات شراكة مع Google وMicrosoft و xAI تقضي بمشاركة نسخٍ غير مُصدَرة من نماذجها مع الحكومة الأمريكية، بهدف تقييم تأثيرها المحتمل على الأمن القومي والسلامة العامة قبل إطلاقها للعموم.

ما الذي ستفعله هذه الاتفاقيات فعلياً؟

الجهة المنوط بها تنفيذ هذه الاتفاقيات هي مركز معايير الذكاء الاصطناعي والابتكار (CAISI)، التابع لوزارة التجارة الأمريكية. يملك المركز صلاحية تقييم النماذج الحدودية (Frontier Models) قبل إطلاقها، فضلاً عن إجراء اختبارات مستمرة بعد النشر وقد أنجز حتى الآن أكثر من 40 تقييماً لنماذج ذكاء اصطناعي مختلفة.

قال مدير CAISI كريس فول في بيانٍ رسمي: «علم القياس المستقل والصارم ضروريٌّ لفهم الذكاء الاصطناعي الحدودي وتداعياته على الأمن القومي، وهذه التعاونات الموسّعة مع الصناعة تُساعدنا على توسيع نطاق عملنا في خدمة المصلحة العامة في لحظةٍ بالغة الأهمية.»

لماذا الآن؟

النقطة المحوريّة في هذه القصة هي نموذج Mythos من Anthropic. فقد أثار هذا النموذج موجةً من القلق خلال الشهر الماضي بسبب قدراته في مجال الأمن السيبراني، ما دفع البيت الأبيض إلى دراسة إنشاء آليةٍ رسمية لمراجعة نماذج الذكاء الاصطناعي قبل طرحها. وقد أكّد أنّ البيت الأبيض يسعى حالياً إلى الاستعانة بمجموعة من الخبراء للإسهام في صياغة هذه الآلية وهو ما يمثّل تحوّلاً ملحوظاً عن نهج إدارة ترامب القائم على تقليص التنظيم في قطاع الذكاء الاصطناعي.

وكانت صحيفة New York Times قد كشفت عن هذه المجموعة الاستشارية يوم الاثنين. وردّاً على ذلك، قال متحدّثٌ باسم البيت الأبيض : «أيّ إعلانٍ عن سياسةٍ سيصدر مباشرةً عن الرئيس، والحديث عن مراسيم تنفيذية محتملة لا يعدو كونه تكهّنات.»

في غضون ذلك، أعلنت OpenAI الأسبوع الماضي أنّها ستتيح نماذجها الأكثر تقدّماً لجميع مستويات الحكومة التي اجتازت إجراءات التحقّق، في خطوةٍ تهدف إلى التصدّي للتهديدات التي قد يُتيحها الذكاء الاصطناعي.

مشكلة الموارد

ما الذي يعنيه هذا فعلياً لمركز CAISI؟ ببساطة: موارد أكبر لإجراء اختبارات أعمق.

توضّح جيسيكا جي، كبيرة محلّلي الأبحاث في مركز الأمن والتقنيات الناشئة بجامعة Georgetown، أنّ المركز «لا يملك ببساطة القدر ذاته من الموارد التي تملكها شركات التقنية الكبرى، سواءٌ من حيث الكوادر البشرية أو الكفاءات التقنية أو الوصول إلى القدرة الحوسبية اللازمة لتشغيل هذه النماذج وإخضاعها لاختباراتٍ صارمة.»

أمّا على صعيد مواقف الشركات، فقد أشارت Natasha Crampton، كبيرة مسؤولي الذكاء الاصطناعي المسؤول في Microsoft، في بيانٍ رسمي إلى أنّ الشراكة مع CAISI تُضيف «خبرةً تقنيةً وعلميةً وأمنيةً» تتجاوز ما تُجريه Microsoft من اختبارات داخلية. في المقابل، رفضت Google التعليق على الاتفاقية، ولم تردّ xAI على طلبات التعليق.