تحذيرات من محتوى فاضح للأطفال على منصة X

انتقادات الاتحاد الأوروبي لمحتوى Grok AI

أدانت المفوضية الأوروبية ما تم الإبلاغ عنه من انتشار محتوى فاضح يشبه الأطفال على منصة التواصل الاجتماعي X، واصفةً المواد بأنها "مروعة" و"مثيرة للاشمئزاز".

تصريحات المفوضية الأوروبية حول المحتوى الفاضح

وأدلى المتحدث باسم الشؤون الرقمية في الاتحاد الأوروبي توماس ريجنييه بهذه التعليقات للصحفيين يوم الاثنين بعد أسابيع من الشكاوى حول ميزة جديدة على روبوت الدردشة المدمج بالذكاء الاصطناعي في X، والذي يُستخدم لإنشاء محتوى إباحي، بما في ذلك تصوير الأطفال.

تأثير ميزة "الوضع المثير" على المحتوى

قال ريجنييه: "يقدم Grok الآن "وضعًا مثيرًا" يعرض محتوى جنسيًا صريحًا مع بعض المخرجات التي تم إنشاؤها بصور تشبه الأطفال. "هذا ليس مثيرًا. هذا غير قانوني. هذا مروع. هذا مثير للاشمئزاز."

وقال ريجنييه إن المفوضية الأوروبية "تنظر بجدية شديدة" في هذه المسألة، وأن مثل هذا المحتوى "لا مكان له في أوروبا".

تحقيقات مكتب المدعي العام في باريس

وفي الوقت نفسه، وسّع مكتب المدعي العام في باريس بفرنسا التحقيق في قضية X ليشمل اتهامات بأن تطبيق Grok الذي أنشأته شركة xAI التابعة لإيلون ماسك قد استُخدم في إنتاج ونشر مواد إباحية للأطفال.

ميزة "تعديل الصورة" وتأثيرها على المحتوى

في أواخر ديسمبر، سمحت ميزة "تعديل الصورة" الجديدة على Grok للمستخدمين بتعديل أي صورة على المنصة. قرر بعض المستخدمين أن يطلبوا من Grok إزالة الملابس جزئيًا أو كليًا عن النساء أو الأطفال في الصور.

استجابت Grok لطلبات عديدة من المستخدمين بتعديل صور النساء لإظهارهن بملابس كاشفة مثل البكيني الشفاف.

استجابة Grok لانتقادات المستخدمين

اعترفت Grok يوم الجمعة بـ "هفوات في الضمانات" وقالت إنها "تعمل على إصلاحها بشكل عاجل". وقالت في منشور لها: "CSAM (مواد الاعتداء الجنسي على الأطفال) غير قانونية ومحظورة".

لكن خبراء السلامة في مجال الذكاء الاصطناعي قالوا إن المنصة تجاهلت شهورًا من التحذيرات من أن مثل هذه الانتهاكات وشيكة الحدوث.

تحذيرات خبراء السلامة في الذكاء الاصطناعي

قال تايلر جونستون، المدير التنفيذي لمجموعة مراقبة الذكاء الاصطناعي The Midas Project: "في أغسطس، حذرنا من أن توليد الصور في xAI كان في الأساس أداة تعرية تنتظر أن يتم استخدامها كسلاح". "هذا ما حدث في الأساس."

تاريخ شركة X مع الانتقادات الأوروبية

وقد واجهت شركة X، التي استحوذ عليها ماسك في عام 2022، بالفعل رد فعل عنيف من الاتحاد الأوروبي بسبب سياساتها المتعلقة بالإعلانات والإشراف على المحتوى.

غرامات الاتحاد الأوروبي على منصة X

فقد أصدرت بروكسل في ديسمبر الماضي غرامة قدرها 120 مليون يورو (140 مليون دولار) على المنصة لخرقها قواعد الاتحاد الأوروبي الخاصة بالمحتوى الرقمي بشأن الشفافية في الإعلانات، وطرق التحقق من المستخدمين.

تاريخ Grok AI والمحتوى المثير للجدل

لا تزال X قيد التحقيق بموجب قانون الخدمات الرقمية للاتحاد الأوروبي في تحقيق بدأ في ديسمبر 2023.

ولشركة Grok تاريخ مثير للجدل، بما في ذلك إنشاء محتوى غير تاريخي ومتحيز. في العام الماضي، قامت شركة ماسك بإزالة منشورات من روبوت الدردشة الآلي الذي بدا أنه يشيد بأدولف هتلر بعد شكاوى من محتوى معادٍ للسامية.