مقاطع فيديو الذكاء الاصطناعي تثير قلق تيك توك

مقدمة حول مقاطع الفيديو التي تُظهر أطفالًا بالذكاء الاصطناعي

لقد حصدت مقاطع الفيديو التي تم إنشاؤها بالذكاء الاصطناعي والتي تُظهر ما يبدو أنه فتيات قاصرات في ملابس أو أوضاع جنسية ملايين الإعجابات على تطبيق تيك توك، على الرغم من أن قواعد المنصة تحظر مثل هذا المحتوى، وفقًا لبحث جديد أجرته مؤسسة غير ربحية معنية بالسلامة على الإنترنت.

وجد الباحثون أكثر من اثني عشر حسابًا تنشر مقاطع فيديو تظهر فيها فتيات تم إنشاؤها بالذكاء الاصطناعي يرتدين ملابس ضيقة أو ملابس داخلية أو زيًا مدرسيًا، وأحيانًا في أوضاع موحية. تضم الحسابات مئات الآلاف من المتابعين مجتمعين. وتضمنت التعليقات على العديد من مقاطع الفيديو روابط لمحادثات على منصة المراسلة تيليغرام، والتي عرضت مواد إباحية للأطفال للشراء، وفقًا للتقرير.

ظل ثلاثة عشر حسابًا نشطًا حتى مساء الأربعاء بعد أن تم الإبلاغ عن 15 منها من خلال أداة الإبلاغ في تيك توك الأسبوع الماضي، وفقًا لكارلوس هيرنانديز-إيتشيفاريا، الذي قاد البحث بصفته مساعد مدير ورئيس السياسة العامة في Maldita.es. وقد أصدرت المنظمة غير الربحية التي تتخذ من إسبانيا مقرًا لها، والتي تدرس التضليل عبر الإنترنت وتعزز شفافية وسائل الإعلام، التقرير يوم الخميس.

تأثير المحتوى على منصة تيك توك

ويثير التقرير تساؤلات حول قدرة TikTok على فرض سياساتها الخاصة فيما يتعلق بمحتوى الذكاء الاصطناعي، حتى عندما يظهر هذا المحتوى صورًا جنسية لأطفال تم إنشاؤها بواسطة الكمبيوتر. تواجه منصات التكنولوجيا بما في ذلك TikTok ضغوطًا متزايدة لحماية المستخدمين الصغار مع إقرار المزيد من السلطات القضائية لتشريعات السلامة على الإنترنت، بما في ذلك حظر وسائل التواصل الاجتماعي في أستراليا تحت سن 16 عامًا، والذي دخل حيز التنفيذ هذا الأسبوع.

وقال هيرنانديز إتشيفاريا لشبكة: "هذا ليس دقيقًا على الإطلاق". "لا أحد، كما تعلم، شخص حقيقي لا يجد هذا الأمر مقرفًا ويريد إزالته."

سياسات تيك توك تجاه المحتوى الجنسي

تقول تيك توك إن لديها سياسة عدم التسامح مطلقًا مع المحتوى الذي "يعرض أو يروج أو يشارك في الاعتداء أو الاستغلال الجنسي للشباب". وتحظر إرشادات مجتمعها على وجه التحديد حظر "الحسابات التي تركز على صور الشباب بملابس تناسب البالغين أو الأوضاع الجنسية أو تعابير الوجه". قسم آخر من سياساتها ينص على أن تيك توك لا تسمح "بالمحتوى الجنسي الذي يتضمن شابًا، بما في ذلك أي شيء يظهر أو يوحي بالإساءة أو النشاط الجنسي"، والذي يتضمن "الصور التي يتم إنشاؤها بالذكاء الاصطناعي" و"أي شيء يضفي طابعًا جنسيًا أو يجسد جسد شاب."

إجراءات تيك توك في مواجهة المحتوى المخالف

تقول الشركة إنها تستخدم مزيجاً من الأدوات القائمة على الرؤية والصوت والنصوص، إلى جانب فرق عمل بشرية للإشراف على المحتوى. بين أبريل ويونيو 2025، أزالت TikTok أكثر من 189 مليون مقطع فيديو وحظرت أكثر من 108 مليون حساب، وفقًا للشركة. وتقول الشركة إن 99% من المحتوى الذي ينتهك سياساتها بشأن العري والتعرض للجسد، بما في ذلك المحتوى الذي يظهر فيه الشباب، تمت إزالته بشكل استباقي، كما تمت إزالة 97% من المحتوى الذي ينتهك سياساتها بشأن المحتوى الذي ينشئه الذكاء الاصطناعي بشكل استباقي.

نتائج البحث حول مقاطع الفيديو

اكتشف موقع Maldita.es مقاطع فيديو تيك توك من خلال حسابات اختبارية يستخدمها لرصد أي تضليل محتمل أو محتوى ضار آخر كجزء من عمله.

ملاحظات الباحثين حول الاتجاهات الجديدة

وقال هيرنانديز-إيتشيفاريا: "بدأ أحد أعضاء فريقنا في ملاحظة وجود هذا الاتجاه في هذه مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي لأطفال صغار جدًا يرتدون ملابس البالغين، وخاصة عندما تدخل إلى التعليقات، يمكنك أن ترى أن هناك بعض الحوافز المالية هناك".

تعليقات المستخدمين وتأثيرها

ووصفت بعض الحسابات مقاطع الفيديو الخاصة بهم في أقسام السيرة الذاتية الخاصة بهم بأنهم "فتيات ثانوية لذيذات المظهر" أو "عارضات أزياء مبتدئات"، وفقًا للتقرير. وجاء في التقرير: "حتى مقاطع الفيديو الأكثر دقة مثل تلك التي تظهر فيها فتيات صغيرات يلعقن الآيس كريم، كانت مليئة بالتعليقات الجنسية الفجة".

في بعض الحالات، استخدم أصحاب الحسابات خاصية "AI Alive" في تيك توك، التي تُحرّك الصور الثابتة، لتحويل الصور التي تم إنشاؤها باستخدام الذكاء الاصطناعي إلى مقاطع فيديو، حسبما قال هيرنانديز-إيتشيفاريا. وقال إنه يبدو أن مقاطع فيديو أخرى تم إنشاؤها باستخدام أدوات ذكاء اصطناعي خارجية.

وتضمنت التعليقات على العديد من مقاطع الفيديو روابط لمحادثات تيليجرام الخاصة التي تروّج لمواد إباحية للأطفال، وفقًا للتقرير.

ردود الأفعال من تيك توك وتيليجرام

"ردت بعض الحسابات على رسائلنا المباشرة على تيك توك بروابط لمواقع إلكترونية خارجية تبيع مقاطع فيديو وصور تم إنشاؤها باستخدام الذكاء الاصطناعي والتي تعرض صورًا جنسية للقاصرين، بأسعار تتراوح بين 50 و 150 يورو"، كما جاء في التقرير.

لم يتابع الباحثون أي صفقات، وأبلغت المجموعة الشرطة في إسبانيا عن المواقع الإلكترونية وحسابات تيليجرام.

التزام تيليجرام بمنع المحتوى الضار

وقال ريمي فون المتحدث باسم تيليجرام في بيان: "تلتزم تيليجرام التزامًا تامًا بمنع ظهور مواد الاعتداء الجنسي على الأطفال على منصتها وتطبق سياسة صارمة لعدم التسامح مطلقًا". "تقوم تيليجرام بمسح جميع الوسائط التي يتم تحميلها على منصتها العامة مقابل قاعدة بيانات للمواد المسيئة للطفل التي يحذفها المشرفون لمنع انتشارها. وبينما لا يمكن لأي منصة مشفرة أن تراقب المحتوى في المجموعات الخاصة بشكل استباقي، إلا أن تيليجرام تقبل البلاغات من المنظمات غير الحكومية حول العالم من أجل تطبيق شروط الخدمة الخاصة بها."

قال فون إن أكثر من 909,000 مجموعة وقناة عامة تتعلق بمواد الاعتداء الجنسي على الأطفال قد أزالت تيليجرام أكثر من 909,000 مجموعة وقناة عامة في عام 2025.

استجابة تيك توك للإبلاغات

تقول المجموعة إنها وضعت علامة على 15 حسابًا و 60 مقطع فيديو على تيك توك من خلال أدوات الإبلاغ الخاصة بالتطبيق يوم الثلاثاء 2 ديسمبر/كانون الأول، وصنفتها على أنها "سلوكيات جنسية موحية من قبل الشباب". كان للحسابات ما مجموعه 300,000 متابع تقريبًا، وحصلت مقاطع الفيديو الخاصة بهم البالغ عددها 3900 مقطع فيديو على أكثر من مليوني إعجاب مجتمعة، وفقًا للتقرير.

وبحلول يوم الجمعة، ردت تيك توك بأن 14 من الحسابات لم تنتهك قواعدها وتم "تقييد" حساب واحد. وذكر التقرير أن المجموعة استأنفت كل قرار، ولكن "بعد 30 دقيقة بالضبط من الاستئناف لكل حالة على حدة"، كررت تيك توك قرارها الأولي.

التحديات التي تواجه منصات التواصل الاجتماعي

من بين 60 مقطع فيديو أبلغت عنها المجموعة، ردت تيك توك يوم الجمعة بأن 46 منها لم تنتهك سياساتها وأزالت أو قيّدت 14 منها. بعد أن استأنف الباحثون، أزالت تيك توك ثلاثة فيديوهات أخرى وقيدت آخر. لم يتضح على الفور كيف اختلفت قيود الفيديو عن عمليات الإزالة.

كان من بين مقاطع الفيديو التي لم تتم إزالتها مقطع فيديو يظهر فتاة شابة تم إنشاؤها بواسطة الذكاء الاصطناعي وهي تستحم بملابس داخلية أو ملابس سباحة فاضحة، وصور أخرى تم إنشاؤها بواسطة الذكاء الاصطناعي تظهر فتيات صغيرات يظهرن بشكل موحٍ في ملابس داخلية أو بيكيني، وفقًا للمجموعة.

صعوبة مراقبة المحتوى الجنسي

وقال هيرنانديز-إيتشيفاريا: "من المستحيل على الإطلاق أن يرى إنسان هذا ولا يفهم ما يحدث". "التعليقات فظة للغاية ومليئة بأكثر الناس إثارة للاشمئزاز على وجه الأرض وهم يدلون بتعليقاتهم."

وبحلول يوم الأربعاء، لم يعد هناك حساب واحد على الأقل ومقطع فيديو واحد على الأقل كانت عملية مراجعة المحتوى في تيك توك قد أشارت في السابق إلى أنه لا ينتهك قواعدها. وقال هيرنانديز-إيتشيفاريا إنه لم يكن من الواضح سبب عدم حذفها عند الإبلاغ عنها لأول مرة.

يأتي تقرير يوم الخميس بعد دراسة منفصلة نشرتها منظمة Global Witness البريطانية غير الهادفة للربح في أكتوبر/تشرين الأول وجدت أن تيك توك وجّهت المستخدمين الشباب نحو محتوى جنسي صريح من خلال مصطلحات البحث المقترحة. وقد وجد ذلك التقرير أن بحث تيك توك اقترح مصطلحات "جنسية للغاية" على المستخدمين الذين ذكروا أنهم في سن 13 عامًا وكانوا يتصفحون في "الوضع المقيد". قالت تيك توك ردًا على ذلك أنها أزالت المحتوى الذي ينتهك سياساتها وأطلقت تحسينات على خاصية اقتراح البحث.