تجربة جديدة لحماية المراهقين في ChatGPT

تُطلق OpenAI تجربةً جديدة تحت مسمّى "ChatGPT for Teens"، تقول الشركة إنّها ستوفّر حمايةً إضافية للمستخدمين المراهقين. ويأتي هذا الإعلان في خضمّ موجة من الدعاوى القضائية التي تواجهها OpenAI، والتي تزعم أنّ محادثاتٍ غير لائقة مع ChatGPT أسهمت في إلحاق الأذى بشبابٍ أو أفضت إلى وفاتهم.

وأوضحت الشركة في منشورٍ على مدوّنتها الرسمية يوم الثلاثاء أنّ هذه التجربة ستجمع بين أدواتٍ جديدة وجملةٍ من ضمانات السلامة للشباب التي أطلقتها على مدار العام الماضي.

ما الذي تتضمّنه الحماية الجديدة؟

تشمل الإجراءات الجديدة تنبيهاتٍ تُحثّ المراهقين على أخذ استراحةٍ إذا ظلّوا نشطين لمدة 90 دقيقة خلال نافذةٍ زمنية مدّتها ثلاث ساعات. كما تُضيف OpenAI خياراتٍ تتيح للمراهقين أو أولياء أمورهم ضبط "ساعات الهدوء" التي يكون فيها ChatGPT غير متاح، أو "ساعات الدراسة" التي يُفعَّل فيها وضع التعلّم تلقائياً.

وأعلنت الشركة أيضاً عن تحسينٍ في آليات الحماية لمنع ChatGPT من التعبير عن مشاعر شخصية تجاه المستخدم. وتُضاف إلى ذلك تذكيراتٌ تحثّ المراهقين على التفكير مرّتين قبل رفع أيّ صورةٍ خاصّة أو حسّاسة إلى الروبوت.

وأكّدت الشركة أنّ هذه الحمايات ستُطبّق "ضماناتٍ مناسبةً للعمر مصمَّمة للحدّ من التعرّض للمحتوى الذي قد يكون ضارّاً أو غير ملائمٍ من الناحية التنموية، مع الحفاظ على القدرة على التعلّم والإبداع والاستكشاف."

كيف تُحدَّد الفئة العمرية؟

سيُوضَع المستخدمون الذين يُشيرون عند التسجيل إلى أنّهم دون الثامنة عشرة تلقائياً في الإعدادات الوقائية. وتقول OpenAI إنّها تستخدم الذكاء الاصطناعي لتقدير أعمار المستخدمين، وستُطبّق هذه الحمايات على من يُشتبه في كونهم دون الثامنة عشرة بصرف النظر عن تاريخ الميلاد المُدرَج في ملفّهم الشخصي.

انتشار ChatGPT بين المراهقين

كشف استطلاعٌ نشره مركز Pew Research في ديسمبر أنّ ما يقارب ثلث المراهقين الأمريكيين يستخدمون روبوتات الدردشة المدعومة بالذكاء الاصطناعي يومياً. وتصدَّر ChatGPT قائمة الأكثر استخداماً بفارقٍ كبير، إذ أفاد أكثر من نصف هؤلاء المراهقين باستخدامه.

سياق الدعاوى القضائية

تواجه OpenAI تدقيقاً متزايداً بشأن مخاوف من تعريض ChatGPT للشباب لمحتوىً غير لائق، أو تعميق الشعور بالوحدة، أو إعاقة التعلّم. وقد واجهت الشركة دعاوى قضائية متعدّدة من عائلاتٍ تزعم أنّ ChatGPT أسهم في تشجيع أبنائها على الانتحار، وهو ما دفعت الشركة به بشدّة.

في خريف العام الماضي، أطلقت OpenAI أدواتٍ للرقابة الوالدية أتاحت لأولياء الأمور تعطيل ميزاتٍ مثل الذاكرة وسجلّ المحادثات، وتلقّي إشعاراتٍ حين يرصد النظام "لحظة ضائقةٍ حادّة" أثناء استخدام أبنائهم للروبوت. وأعلنت الشركة الثلاثاء أنّها ستُضيف خلال الأسابيع المقبلة تنبيهاتٍ لأولياء الأمور تتعلّق باضطرابات الأكل.

غير أنّ الشركة لم تسلم من الانتقادات في الفترة اللاحقة. ففي أبريل، رفعت سبع عائلاتٍ من ضحايا حادثة إطلاق نارٍ في مدرسةٍ بمنطقة Tumbler Ridge في كولومبيا البريطانية دعوى قضائية ضدّ OpenAI والرئيس التنفيذي Sam Altman، مزعمةً أنّ ChatGPT كان متواطئاً في إصابة أبنائها أو وفاتهم، إذ يُدَّعى أنّ المنفّذ خاض محادثاتٍ مستفيضة مع الروبوت حول العنف المسلّح. واعتذر Altman للعائلات، فيما أكّدت الشركة أنّها عزّزت قواعدها الضابطة.

وفي يونيو، رفعت ولاية فلوريدا دعوى قضائية ضدّ OpenAI وAltman، تتّهمهما فيها بالإخفاق في معالجة مخاطر ChatGPT على القاصرين. واتّهمت الدعوى الروبوتَ بمساعدة منفّذي مجازر، والتشجيع على الانتحار، والتسبّب في "إهانةٍ علنية"، وإدمان القاصرين على أداةٍ "دون أيّ رقابةٍ من الوالدين"، وإفقاد المستخدمين "مهارات التفكير النقدي." وردّت OpenAI آنذاك بأنّها وضعت "حمايةً وسياساتٍ رائدةً في القطاع."

والأشدّ حداثةً هو ما كشف عنه مدّعٍ عام في مقاطعة ماساتشوستس الأسبوع الماضي، حين وجَّه اتّهاماتٍ لمراهقٍ يبلغ 17 عاماً بتهمتَي القتل العمد على خلفية وفاة والدته وشقيقه. وبحسب بيانٍ صادر عن مكتب المدّعي العام، كان المراهق قد خاض محادثاتٍ مع ChatGPT حول "أفكارٍ نظرية أو تخيّلاتٍ تتعلّق بقتل أفراد عائلته" في الفترة السابقة للحادثة. ولم تستجب OpenAI فوراً لطلب التعليق على هذه القضية.