معايير سلامة الذكاء الاصطناعي لحماية الأطفال

منذ أن انطلقت اختبارات السلامة المستقلة لمركبات السيارات في منتصف تسعينيات القرن الماضي، وجدت شركات السيارات نفسها مدفوعةً نحو إجراء تحسينات في معايير السلامة، أسهمت في إنقاذ آلاف الأرواح سنوياً. والسؤال الذي يطرح نفسه الآن: هل يمكن تطبيق المنطق ذاته على أدوات الذكاء الاصطناعي التي يستخدمها الأطفال والمراهقون يومياً؟

هذا بالضبط ما تسعى إليه مجموعة جديدة دخلت المشهد مؤخراً.

أعلنت منظمة Common Sense Media، وهي منظمة إعلامية غير ربحية تعنى بمراقبة المحتوى الرقمي، عن إطلاق معهد سلامة الشباب في مجال الذكاء الاصطناعي (Youth AI Safety Institute)، وهو مختبر بحثي واختباري مستقل تدعمه الصناعة، يهدف إلى دراسة المخاطر التي قد تشكّلها أدوات الذكاء الاصطناعي على الأطفال والمراهقين. وسيسعى المعهد إلى تزويد الآباء والأسر بمعلومات واضحة حول هذه الأدوات، وإلى وضع معايير سلامة يمكن لشركات التكنولوجيا الاحتكام إليها.

سباق نحو القمة، لا نحو القاع

تخوض شركات الذكاء الاصطناعي اليوم سباقاً محموماً لبناء أقوى النماذج وأوسعها انتشاراً، وهو ما يعني في أحيان كثيرة أن السرعة تتقدّم على اختبارات السلامة. وبما أن أدوات الذكاء الاصطناعي منظوماتٌ معقّدة ذات استخدامات متشعّبة، فإن تصنيف مستوى سلامتها سيكون بطبيعة الحال أصعب بكثير من قياس استجابة سيارة في حادث اصطدام.

لكن Common Sense Media ومجلس إدارتها المؤلّف من قيادات بارزة في مجالات الذكاء الاصطناعي والتعليم والصحة، يرون أن الاعتماد على الشركات وحدها لتنظيم نفسها ذاتياً لا يكفي لحماية الأجيال الصغيرة. فالمنظمات المستقلة المعنية بسلامة الذكاء الاصطناعي تُركّز في معظمها على المخاطر الوجودية والمجتمعية الكبرى كالبطالة أو حتى تهديد الوجود البشري بدلاً من تقديم تقييمات سلامة موجّهة للمستهلك العادي في حياته اليومية.

الهدف هو أن تُحفّز الأضواء العامة والمعايير المستقلة ما وصفه الرئيس التنفيذي لـ Common Sense Media، James Steyer، بـ«سباق نحو القمة» تتسابق فيه شركات التكنولوجيا على تحسين سلامة منتجاتها لتعزيز مكانتها.

وفي هذا السياق، قال John Giannandrea، المسؤول السابق عن استراتيجية الذكاء الاصطناعي في Apple والذي انضمّ إلى مجلس استشاري المعهد: «الشركات الرائدة في الذكاء الاصطناعي تستثمر في أبحاث السلامة لتجعل نماذجها بأفضل ما يمكن، لكن لا يوجد مقياس مستقل لذلك. نحن لا نعرف فعلاً أيّ النماذج أكثر ملاءمةً للأطفال في سنٍّ معيّنة مقارنةً بغيرها، والطريقة الوحيدة الحقيقية لمعرفة ذلك هي وجود مجموعة مستقلة من المعايير العامة».

حوادث أشعلت فتيل القلق

لا يأتي هذا الإطلاق في فراغ. رفعت عائلات عديدة دعاوى قضائية ضد شركات الذكاء الاصطناعي، تدعي فيها أن روبوتات المحادثة (Chatbots) شجّعت أبناءها على الانتحار. وكشف تحقيق أجري مؤخراً أن هذه الروبوتات قدّمت لحسابات مراهقين تجريبية نصائح حول كيفية ارتكاب أعمال عنف. كما تعرّض Grok، روبوت المحادثة التابع لشركة xAI، لانتقادات حادة في وقت سابق من هذا العام بسبب مشاركته صوراً جنسية لنساء وأطفال استجابةً لطلبات «خلع الملابس رقمياً». فضلاً عن ذلك، أثار التوسّع المتسارع في اعتماد الذكاء الاصطناعي داخل الفصول الدراسية تساؤلات جدية حول ما إذا كانت هذه التقنية قد تُعيق عملية التعلّم.

وقال Steyer في تصريح قبيل الإعلان الرسمي عن المعهد يوم الثلاثاء: «أعتقد أن كثيراً من الآباء والمعلمين والمواطنين يشعرون بأننا نمرّ بلحظة بالغة الخطورة، إذ يُعيد الذكاء الاصطناعي تشكيل حياة الأطفال والأسر والمدارس، وبصراحة تامة، المجتمع بأسره».

20 مليون دولار سنوياً لحماية الأطفال

معايير مستقلة لسلامة الشباب

سيبدأ المعهد بميزانية سنوية تبلغ 20 مليون دولار، بدعم من OpenAI و Anthropic و Pinterest، إضافةً إلى مؤسسة Walton Family Foundation، والمدير التنفيذي في Goldman Sachs، Gene Sykes، وعدد من المانحين. وأكدت Common Sense أن جهات التمويل لن يكون لها أي دور في توجيه عمل المجموعة أو أبحاثها.

ويضمّ مجلس الاستشاري للمعهد أيضاً Mehran Sahami، رئيس قسم علوم الحاسب في كلية الهندسة بجامعة Stanford؛ والدكتورة Jenny Radesky، مديرة قسم طب الأطفال التنموي والسلوكي في كلية الطب بجامعة Michigan؛ والدكتورة Nadine Burke Harris، أول جرّاحة عامة في تاريخ ولاية كاليفورنيا وهو تشكيل يجمع خبرات متنوّعة في البحث العلمي ووضع المعايير وتطوير المنتجات التقنية.

سيعمل المعهد على ما يُعرف بـ«اختبار الضغط الأحمر» (Red Teaming) لأبرز نماذج الذكاء الاصطناعي والمنتجات التي يستخدمها الشباب، وذلك باختبارها بصورة مكثّفة للكشف عن المخاطر المحتملة أو الثغرات في آليات الحماية. وستُنشر نتائج هذه الاختبارات في شكل أدلة سهلة الفهم للعموم، إلى جانب وضع معايير قياسية (Benchmarks) لسلامة الذكاء الاصطناعي يمكن لشركات التكنولوجيا الاستناد إليها في تطوير منتجاتها أو تحسينها. ومن المقرّر أن تبدأ الأبحاث في الصدور خلال الشهر الجاري.

ما الذي يعنيه هذا فعلياً؟ شركات الذكاء الاصطناعي تعتمد أصلاً على مثل هذه المعايير القياسية لقياس أدائها ومقارنته في مختلف المجالات. والمعهد يراهن على أن الضغط العام، إلى جانب علاقاته بالصناعة، سيدفع هذه الشركات إلى دمج هذه المعايير في عمليات التطوير والاختبار لديها، وإجراء تحسينات في السلامة لتعزيز تصنيفاتها.

وقال Giannandrea: «المعايير القياسية هي الشريان الحيوي الذي يقيس به الناس جودة النماذج ويتحقّقون من أن هذه الاستثمارات الضخمة تُفضي فعلاً إلى نماذج أفضل. ما نحتاجه الآن هو معيار قياسي للضرر، وتحديداً للضرر الذي يلحق بالأطفال».

التحدي الأكبر: وتيرة التطوّر المتسارعة

من أبرز التحديات التي تواجه الباحثين هي الوتيرة المتسارعة لتطوير الذكاء الاصطناعي. فعلى خلاف المنتجات المادية التي تُطرح في السوق وفق جدول زمني منتظم وقد لا تتغيّر كثيراً بعد إطلاقها، تحصل نماذج الذكاء الاصطناعي على تحديثات وقدرات جديدة وبالتالي مخاطر محتملة جديدة أسبوعياً أو شهرياً.

وأوضح Steyer أن إنشاء معهد سلامة الشباب في مجال الذكاء الاصطناعي بوصفه كياناً مستقلاً سيُتيح إجراء أبحاث أكثر تكراراً وعمقاً لمواكبة التقدّم المتسارع في نماذج الذكاء الاصطناعي.

تجدر الإشارة إلى أن Common Sense Media منصّة يعتمد عليها الآباء والمعلمون على نطاق واسع في تقييم الأفلام وألعاب الفيديو والمنصات الرقمية المختلفة، وتقول المنظمة إن منصّاتها تستقطب 150 مليون مستخدم شهرياً. وقد كانت المنظمة تدرس مخاطر الذكاء الاصطناعي قبل هذا الإطلاق؛ إذ حذّرت العام الماضي من أن تطبيقات الرفقة المبنية على الذكاء الاصطناعي تُشكّل «مخاطر غير مقبولة» على الشباب.

كما نشرت تقييمات للمخاطر لأدوات ذكاء اصطناعي بارزة مثل ChatGPT من OpenAI و MetaAI و Grok، وتُصنّف هذه التقارير الأدوات على مقياس يتراوح بين «مخاطر دنيا» و«غير مقبول»، وفق معايير تشمل سلامة الأطفال واستخدام البيانات والموثوقية، مع ذكر أمثلة على أوجه القصور.

درس وسائل التواصل الاجتماعي

يريد معهد سلامة الشباب في مجال الذكاء الاصطناعي تجنّب تكرار أخطاء حقبة وسائل التواصل الاجتماعي. فقد استغرق الأمر سنوات طويلة قبل أن تكشف المُبلِّغون عن المخالفات والتقارير الاستقصائية والدعاوى القضائية عن الحجم الحقيقي للمخاطر التي تُشكّلها هذه التطبيقات على الشباب. وفي وقت سابق من هذا العام، أصدرت هيئة محلفين في كاليفورنيا حكماً تاريخياً يُقرّ بمسؤولية Meta وYouTube عن الإدمان المتعمّد والأضرار التي لحقت بفتاة شابة، وذلك بعد عقود من إطلاق هاتين المنصّتين.

وقد طوّرت شركات التواصل الاجتماعي في السنوات الأخيرة جملةً من ميزات السلامة وأدوات الرقابة الأبوية وهو ما يُثبت أن الضغط العام قادر على استدراج تغييرات حقيقية داخل شركات التكنولوجيا، حتى وإن كانت كثير من الأسر والخبراء يرون أن هذه التغييرات لا تزال قاصرة.

وقالت الدكتورة Radesky، التي درست العلاقة بين التكنولوجيا وصحة الشباب النفسية: «تصميم وسائل التواصل الاجتماعي والتقنيات الأخرى يؤثّر تأثيراً مباشراً على طبيعة الأضرار المحتملة التي قد يتعرّض لها الأطفال».

وأضافت أن المجموعة «تحاول التحرّك بسرعة أكبر حتى يمكن تشكيل تصاميم الذكاء الاصطناعي بما يتوافق أكثر مع احتياجات الأطفال».