تحذيرات من محتوى فاضح للأطفال على منصة X

أدانت المفوضية الأوروبية ما تم الإبلاغ عنه من انتشار محتوى فاضح يشبه الأطفال على منصة التواصل الاجتماعي X، واصفةً المواد بأنها "مروعة" و"مثيرة للاشمئزاز".

وأدلى المتحدث باسم الشؤون الرقمية في الاتحاد الأوروبي توماس ريجنييه بهذه التعليقات للصحفيين يوم الاثنين بعد أسابيع من الشكاوى حول ميزة جديدة على روبوت الدردشة المدمج بالذكاء الاصطناعي في X، والذي يُستخدم لإنشاء محتوى إباحي، بما في ذلك تصوير الأطفال.

قال ريجنييه: "يقدم Grok الآن "وضعًا مثيرًا" يعرض محتوى جنسيًا صريحًا مع بعض المخرجات التي تم إنشاؤها بصور تشبه الأطفال. "هذا ليس مثيرًا. هذا غير قانوني. هذا مروع. هذا مثير للاشمئزاز."

وقال ريجنييه إن المفوضية الأوروبية "تنظر بجدية شديدة" في هذه المسألة، وأن مثل هذا المحتوى "لا مكان له في أوروبا".

وفي الوقت نفسه، وسّع مكتب المدعي العام في باريس بفرنسا التحقيق في قضية X ليشمل اتهامات بأن تطبيق Grok الذي أنشأته شركة xAI التابعة لإيلون ماسك قد استُخدم في إنتاج ونشر مواد إباحية للأطفال.

"في انتظار تسليحها"

في أواخر ديسمبر، سمحت ميزة "تعديل الصورة" الجديدة على Grok للمستخدمين بتعديل أي صورة على المنصة. قرر بعض المستخدمين أن يطلبوا من Grok إزالة الملابس جزئيًا أو كليًا عن النساء أو الأطفال في الصور.

استجابت Grok لطلبات عديدة من المستخدمين بتعديل صور النساء لإظهارهن بملابس كاشفة مثل البكيني الشفاف.

اعترفت Grok يوم الجمعة بـ "هفوات في الضمانات" وقالت إنها "تعمل على إصلاحها بشكل عاجل". وقالت في منشور لها: "CSAM (مواد الاعتداء الجنسي على الأطفال) غير قانونية ومحظورة".

لكن خبراء السلامة في مجال الذكاء الاصطناعي قالوا إن المنصة تجاهلت شهورًا من التحذيرات من أن مثل هذه الانتهاكات وشيكة الحدوث.

قال تايلر جونستون، المدير التنفيذي لمجموعة مراقبة الذكاء الاصطناعي The Midas Project: "في أغسطس، حذرنا من أن توليد الصور في xAI كان في الأساس أداة تعرية تنتظر أن يتم استخدامها كسلاح". "هذا ما حدث في الأساس."

وقد واجهت شركة X، التي استحوذ عليها ماسك في عام 2022، بالفعل رد فعل عنيف من الاتحاد الأوروبي بسبب سياساتها المتعلقة بالإعلانات والإشراف على المحتوى.

فقد أصدرت بروكسل في ديسمبر الماضي غرامة قدرها 120 مليون يورو (140 مليون دولار) على المنصة لخرقها قواعد الاتحاد الأوروبي الخاصة بالمحتوى الرقمي بشأن الشفافية في الإعلانات، وطرق التحقق من المستخدمين.

لا تزال X قيد التحقيق بموجب قانون الخدمات الرقمية للاتحاد الأوروبي في تحقيق بدأ في ديسمبر 2023.

ولشركة Grok تاريخ مثير للجدل، بما في ذلك إنشاء محتوى غير تاريخي ومتحيز. في العام الماضي، قامت شركة ماسك بإزالة منشورات من روبوت الدردشة الآلي الذي بدا أنه يشيد بأدولف هتلر بعد شكاوى من محتوى معادٍ للسامية.