محكمة هولندية تمنع xAI من إنتاج صور عارية

أمرت محكمة هولندية شركة xAI المملوكة لإيلون ماسك بالتوقف عن إنشاء وتوزيع صور عارية لأشخاص دون موافقتهم في هولندا، محذرة من أنها ستفرض غرامات قدرها 100,000 يورو (115,350 دولارًا أمريكيًا) يوميًا في حالة عدم الامتثال.

قضت محكمة أمستردام الجزئية يوم الخميس بمنع أداة الذكاء الاصطناعي Grok التابعة لشركة xAI ومنصة X التي تستضيفها من "توليد أو توزيع صور جنسية" تظهر أشخاصًا "عراة جزئيًا أو كليًا دون الحصول على إذن صريح منهم".

كان هذا القرار في دعوى مدنية واحدة من أولى المرات التي ينظر فيها قاضٍ في مسؤولية xAI عن إنشاء أدوات يمكن استخدامها لإنشاء صور جنسية، وسط سيل من الشكاوى والتحقيقات بشأن Grok في الأمريكتين وأوروبا وآسيا وأستراليا.

تم إطلاق Grok من قِبل ماسك في عام 2023 وتم توزيعها من خلال منصة التواصل الاجتماعي الخاصة به X، والتي أصبحت الآن جزءًا من شركته SpaceX لاستكشاف الصواريخ والفضاء.

وقد اتخذ مركز Offlimits، وهو مركز هولندي يراقب العنف على الإنترنت، إجراءً قانونيًا بالتعاون مع صندوق دعم الضحايا غير الربحي بسبب خاصية Grok التي تسمح للمستخدمين أن يطلبوا منه إنشاء مونتاجات شديدة الواقعية لنساء وأطفال عراة باستخدام صور حقيقية.

في جلسة استماع هذا الشهر، جادل محامو xAI بأنه من المستحيل ضمان منع إساءة الاستخدام على منصتها، ولا ينبغي معاقبة الشركة على أفعال المستخدمين الخبيثة.

وقالوا إن الشركة اتخذت تدابير في يناير/كانون الثاني لمنع Grok من تحرير صور لأشخاص حقيقيين بملابس كاشفة، بما في ذلك قصر ميزات إنشاء الصور على المشتركين المدفوعين.

وقال موقع المحكمة على الإنترنت إن القاضي قرر أن Offlimits، أظهر أن هناك شكًا معقولاً في فعالية التدابير المتخذة حتى الآن. وذكر الموقع أنه "على سبيل المثال، تمكن Offlimits، من إنتاج مقطع فيديو لشخص عاري باستخدام Grok قبل وقت قصير من جلسة الاستماع".

قال مدير Offlimits، روبيرت هوفينج إن "العبء يقع على عاتق الشركة" للتأكد من عدم استخدام أدواتها في إنشاء وتوزيع صور جنسية غير متوافق عليها، بما في ذلك صور الأطفال.

في وقت سابق من يوم الخميس، وافق البرلمان الأوروبي على فرض حظر على أنظمة الذكاء الاصطناعي التي تولد صورًا جنسية مزيفة، بعد الغضب العالمي من الصور العارية غير التراضية التي أنتجتها شركة Grok.