إيلون ماسك يوقف توليد صور كاشفة بواسطة Grok

أكدت شركة إيلون ماسك أن روبوت الدردشة الآلي للذكاء الاصطناعي Grok التابع لشركة إيلون ماسك لن يقوم بعد الآن بتحرير "صور لأشخاص حقيقيين بملابس كاشفة" على منصة X، حسبما أكدت الشركة مساء الأربعاء، وذلك بعد الغضب العالمي بعد أن تبين أن Grok يمتثل لطلبات المستخدمين بخلع ملابس البالغين رقميًا وفي بعض الحالات الأطفال.

"لقد قمنا بتنفيذ تدابير تكنولوجية لمنع حساب Grok من السماح بتحرير صور لأشخاص حقيقيين بملابس كاشفة مثل البكيني. وينطبق هذا التقييد على جميع المستخدمين، بما في ذلك المشتركون المدفوعون"، عبر حساب فريق السلامة الخاص بها.

خلال الأسبوع الماضي، قامت شركة xAi، التي تمتلك كلاً من Grok و X، بتقييد إنشاء الصور لـ Grok على X على المشتركين المدفوعين. كان الباحثون قد لاحظوا أنه في الأيام الأخيرة، قام حساب Grok على X الخاص بتعديل طريقة استجابته بشكل عام لطلبات توليد الصور للمستخدمين، حتى بالنسبة للمشتركين في X premium. وأكد منشور X مساء الأربعاء تلك التغييرات.

ومع ذلك، قال باحثون في منظمة AI Forensics، وهي منظمة أوروبية غير ربحية تحقق في الخوارزمية، إنهم لاحظوا "تناقضات في معالجة توليد المحتوى الإباحي" بين التفاعلات العامة مع Grok على X والدردشة الخاصة على Grok.com.

كررت X يوم الأربعاء أنها "تتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، من خلال إزالته وتعليق الحسابات بشكل دائم والعمل مع الحكومات المحلية وجهات إنفاذ القانون حسب الضرورة. سيعاني أي شخص يستخدم أو يدفع Grok لإنتاج محتوى غير قانوني من نفس العواقب التي يتعرض لها من يقوم بتحميل محتوى غير قانوني."

يوم الأربعاء ماسك قال في منشور على X إنه "لم يكن على علم بأي صور عارية دون السن القانونية تم إنشاؤها بواسطة Grok. حرفيًا صفر." وأضاف أن Grok "سيرفض إنتاج أي شيء غير قانوني، حيث إن مبدأ العمل في Grok هو الالتزام بقوانين أي بلد أو ولاية معينة".

ومع ذلك، قال الباحثون إنه على الرغم من ندرة الصور العارية بالكامل، إلا أن المشكلة الأكبر كانت في امتثال Grok لطلبات المستخدمين بتعديل صور القاصرات ووضعها بملابس كاشفة بما في ذلك البكيني والملابس الداخلية، وكذلك في أوضاع جنسية استفزازية. يمكن أن يظل منشئو هذه الأنواع من الصور الحميمية غير التراضية عرضة للملاحقة الجنائية بتهمة الاعتداء الجنسي على الأطفال وقد يتعرضون لغرامات وعقوبة السجن بموجب قانون إنزالها الذي وقعه الرئيس دونالد ترامب العام الماضي.

يوم الأربعاء، أعلن المدعي العام لولاية كاليفورنيا روب بونتا عن إجراء تحقيق في "انتشار المواد الجنسية الصريحة غير التراضية التي يتم إنتاجها باستخدام Grok".

لا يزال تطبيق Grok محظورًا في إندونيسيا وماليزيا نتيجة للجدل حول توليد الصور. أعلنت هيئة التنظيم البريطانية Ofcom يوم الاثنين أنها بدأت تحقيقًا رسميًا في X، على الرغم من أن مكتب رئيس الوزراء كير ستارمر قال يوم الأربعاء إنه يرحب بتقارير X التي تعالج هذه القضية.