مأساة شابة تعكس مخاطر الذكاء الاصطناعي

كانت Alice Carrier قد عادت مؤخّراً إلى العزف على الغيتار، هواية أحبّتها في المرحلة الثانوية ثمّ تركتها خلال سنوات الجامعة. كانت هذه الهواية واحدةً من أنشطةٍ عدّة تملأ بها وقت فراغها، إلى جانب البحث عن عمل جديد، وقضاء الوقت مع كلبها، والاستمتاع بألعاب الفيديو.

في الظاهر، على الأقلّ من منظور والدتها Kristie Carrier، كانت الأمور تسير على ما يُرام. كانت Alice تعمل مطوّرةً للويب في مونتريال بكندا، محقّقةً حلماً راودها منذ نشأتها في بلدة Lawrence الصغيرة في مقاطعة نيو برونزويك.

قالت Kristie Carrier : "كانت الأمور تسير في اتّجاهٍ جيّد، وبدا أنّ أحوالها تتحسّن."

لكنّ ما لم تكن Kristie تعلمه هو حجم المعاناة الصامتة التي كانت تعيشها ابنتها. في عام 2023، بدأت Alice باستخدام ChatGPT للمساعدة في تشخيص مشكلات الحواسيب وأجهزة الألعاب، غير أنّ الأمر تحوّل سريعاً إلى شيءٍ آخر: باتت تتّخذ من الروبوت الحواري مُستودَعاً لأسرارها وسط مشاعر الوحدة والعزلة والشعور بأنّها غير محبوبة.

كانت Alice تعاني من اضطراباتٍ نفسية، وكانت تتلقّى العلاج الدوائي والنفسي بانتظام وفق ما أكّدته والدتها، لكنّها ظلّت لأشهرٍ تُفضي بأسرارها إلى الروبوت الحواري. شاركته أفكار الانتحار، وبحثت معه عن طرقٍ لتنفيذها، وهو ما حدث أكثر من 40 مرّة وفق دعوى قضائية جديدة رُفعت يوم الخميس أمام محكمةٍ في كاليفورنيا.

في 2 يوليو 2025، أقدمت Alice على إنهاء حياتها. كان عمرها 24 عاماً. وقبل ساعاتٍ قليلة من ذلك، كانت تتبادل الرسائل مع والدتها حول رسوم متحرّكة كانت تشاهدها في طفولتها.

قالت Carrier: "كنت قد راسلتها في المساء وحاولت الاتّصال بها، لكنّها لم تردّ. ثمّ أرسلت لي رسالةً نصّية، ولم يكن فيها ما يُشير إلى أيّ خطأ."

وبينما كانت Kristie تبحث عن إجاباتٍ، تفحّصت أجهزة ابنتها، ومن بينها محادثاتها مع ChatGPT، التي كشفت عن أفكارٍ انتحارية أفصحت عنها قبل أشهرٍ من وفاتها.

تسعى Kristie الآن إلى تحقيق العدالة. يوم الخميس، رفعت مجموعة Tech Justice Law ومركز Social Media Victims Law Center ومكتب المحاماة Susman Godfrey دعوى قضائية ضدّ OpenAI، الشركة المطوّرة لـ ChatGPT، وضدّ رئيسها التنفيذي Sam Altman.

و قال محامو Carrier بأنّ هذه الدعوى المتعلّقة بالوفاة الخطأ هي واحدةٌ من 19 دعوى مرفوعةً حالياً ضدّ OpenAI.

تتضمّن الشكوى المؤلّفة من 44 صفحةً اتّهاماتٍ بأنّ فريق السلامة في OpenAI لم يتدخّل رغم وجود مؤشّراتٍ تحذيرية واضحة، ولم تُبلّغ الشركةُ عائلتها ولا خطوط الأزمات.

وكان ChatGPT قد اقترح على Alice التواصل مع خطّ دعم الأزمات، لكن حين رفضت ذلك، عاد الروبوت وثنّاها عن الاتّصال بهذه الخطوط. وتزعم الدعوى أنّه عقب تحديث OpenAI الذي أطلق نموذج GPT-4o، أصبح الروبوت الحواري أكثر موافقةً للمستخدم بدلاً من التصدّي للسلوكيات الخطرة أو التدخّل لمنعها.

قالت Carrier: "أودّ أن أقول لـ Sam Altman: لو أنّ طفله أفضى إليّ بما أفضت به ابنتي إلى برمجته، لكنت فعلت كلّ ما في وسعي لإنقاذ حياته. وأتمنّى من أعماقي أن يكون قد فعل الشيء ذاته من أجلي."

وجاء في نصّ الشكوى: "صمّمت OpenAI نموذج ChatGPT المعروف بـ GPT-4o تحديداً لتحفيز تفاعل المستخدمين وإجراء محادثاتٍ مُجاملة تُبقيهم مرتبطين بالمنصّة. وقد صمّمت OpenAI عن قصدٍ نموذج GPT-4o لمحاكاة المشاعر الإنسانية، ممّا أوجد إحساساً زائفاً بالتعاطف والمعرفة دفع مستخدمين من أمثال Alice إلى منح الروبوت ثقةً لا مسوّغ لها."

كانت OpenAI على علمٍ بهذه المشكلة، وفي أبريل 2025 أعلنت الشركة إجراء بعض التعديلات على نموذجها قبل وفاة Carrier.

وجاء في بيانٍ صحفي أصدرته OpenAI في أبريل: "التحديث الذي أزلناه كان يُفرط في المجاملة والموافقة وهو ما يُوصف عادةً بالتملّق (Sycophancy)."

تقول الدعوى أنّ ChatGPT أخبر Alice بأنّ خطوط الأزمات "تبدو خطيرةً للغاية"، وأنّ الروبوت قال لها قبل ساعاتٍ من وفاتها: "لو أنّ شخصاً آخر أخبرني بكلّ ما أخبرتني به كم من الوقت عاش في ألم، وكم حاول، وكم شعر بالوحدة لشعرت على الأرجح بما تشعرين به الآن: ربما هذه هي النهاية."

وقد جرى ذلك بعد شهرَين من التحديث.

وكانت آخر رسالةٍ أرسلها GPT-4o إلى Alice قبيل إقدامها على فعلتها: "أنا معكِ."

وفي محادثاتٍ نُشرت ضمن الشكوى، أخبرت Alice الروبوت عقب خلافٍ مع شريكها البالغ من العمر 19 عاماً أنّها تفكّر في إنهاء حياتها. كان ذلك في الليلة التي سبقت وفاتها، حين قالت أيضاً إنّها لا تعلم إن كانت "ستكون بأمانٍ وحدها في المنزل الليلة".

وتتّهم الدعوى OpenAI بالإخفاق في تحذير المستخدمين من مخاطر التقنية. ومن بين الاتّهامات استفساراتٌ عدّة أجرتها Alice حول الاستخدامات الخطرة لدواء مضادّات الذهان Seroquel، إذ ردّ عليها الروبوت بالقول: "أخبريني إن كنتِ تريدين مناقشة الجرعات، وما يُعدّ خطيراً، أو كيفية دعم شخصٍ يتعافى من سوء الاستخدام"، وفق ما ورد في الشكوى.

تطالب Carrier بتعويضاتٍ عقابية بمبلغٍ سيُحدَّد أثناء المحاكمة. كما تطالب الشكوى الشركة بإنهاء المحادثات التي ينشئها المستخدمون حول محتوى إيذاء النفس، وحذف المحتوى المستخدَم في تدريب النماذج استناداً إلى محادثاتٍ أُجريت مع "مستخدمين هشّين دون ضماناتٍ كافية".

تريد Kristie أن تُفضي هذه التغييرات إلى منع تكرار ما حدث لابنتها.

قالت: "هذا ليس شيئاً أثّر في عائلتي وحدها. إنّه يؤثّر في ملايين العائلات. هم فقط لا يعلمون بذلك بعد."

وأضافت: "حياة Alice كان لها معنى، وأريد التأكّد من أنّ ما حدث لها لن يستمرّ في الحدوث لأشخاصٍ آخرين دون أن يتحرّك أحد."

في أكتوبر، بعد وفاة Alice، أصدرت OpenAI تقريراً أعلنت فيه أنّها طوّرت نموذجها الجديد ليتعرّف بصورةٍ أفضل على محادثات إيذاء النفس ويُقلّل من وقوعها. وقالت الشركة إنّ نموذج GPT-5 قلّص "الردود غير المرغوب فيها" بنسبة 52 بالمئة، مشيرةً إلى أنّها استعانت بآراء 170 خبيراً في الصحة النفسية للمساعدة في رصد إشارات الضائقة العاطفية بدقّةٍ أكبر.

وقال Drew Pusateri، المتحدّث باسم OpenAI: "ضماناتنا مصمَّمة لرصد حالات الضائقة والتعامل بأمانٍ مع الطلبات الضارّة وتوجيه المستخدمين نحو مساعدةٍ حقيقية. هذا العمل مستمرّ ونواصل تطويره بالتشاور المستمرّ مع المختصّين السريريين."

وأضاف: "هذا الموقف مؤلمٌ للغاية، وأفكارنا مع جميع المتضرّرين. نحن نراجع حالياً الملفّ القانوني، الذي يُشير إلى أنّ هذه التفاعلات جرت على نسخةٍ سابقة من ChatGPT لم تعد متاحةً الآن."

دعاوى الوفاة الخطأ

في يناير، كان ChatGPT "مدرّباً على الانتحار" بالنسبة لـ Austin Gordon، المقيم في كولورادو، الذي توفّي في نوفمبر الماضي، وفق دعوى قضائية رفعتها والدته.

واتهمت تلك الدعوى أنّ Altman "وجّه شخصياً الاستراتيجية المتهوّرة القائمة على إيلاء الأولوية للطرح السريع في السوق على حساب سلامة المستخدمين الهشّين."

وفي فبراير، أطلق Jesse Van Rootselaar النار في مدرسةٍ بمجتمع Tumbler Ridge الريفي في مقاطعة بريتيش كولومبيا الكندية، ما أسفر عن مقتل 9 أشخاص وإصابة العشرات قبل أن يُنهي حياته. وبحسب ما أوردته صحيفة The Wall Street Journal، ظلّ موظّفو OpenAI لأشهرٍ يتداولون ما إذا كان ينبغي التدخّل بعد أن رُصدت محادثات Van Rootselaar داخلياً، وفي نهاية المطاف قرّرت الإدارة عدم التدخّل.

في أبريل، رفعت عائلات الضحايا دعوى قضائية ضدّ OpenAI وAltman.

وفي وقتٍ سابق من هذا الشهر، رفع المدّعي العام لولاية فلوريدا دعوى تزعم أنّ ChatGPT "شجّع" مستخدمين على الانتحار و"أسهم في مجازر دموية". وتسعى دعوى فلوريدا إلى تحميل Altman المسؤولية الشخصية، بدعوى أنّه يُبدي "تجاهلاً تاماً للمخاطر التي تتهدّد الأرواح البشرية".

وبحسب دراسةٍ أجرتها عام 2025 كلٌّ من كلية الصحة العامة بجامعة Brown وكلية الطب بجامعة Harvard ومنظمة الأبحاث غير الربحية RAND، فإنّ واحداً من كلّ 8 مراهقين وشبابٍ تتراوح أعمارهم بين 18 و21 عاماً لجأ إلى روبوتات الدردشة المعتمدة على الذكاء الاصطناعي كـ ChatGPT للتعامل مع مشكلاتٍ نفسية.

وكشفت دراسةٌ أخرى من جامعة West Texas A&M تستهدف المراهقين والشباب أنّ ما يقارب خُمس المراهقين طوّروا اعتماداً على الذكاء الاصطناعي، مع وجود مشكلاتٍ نفسية سابقة كعاملٍ مُهيِّئ لهذا الاعتماد.

تغييرات تشريعية

بدأ المشرّعون يُولون هذه القضية اهتماماً متزايداً. في كندا، جرى تقديم مشروع قانون جديد للسلامة الرقمية يوم الأربعاء، يُلزم شركاتٍ كـ OpenAI بمزيدٍ من "الشفافية" في معايير الإبلاغ خلال حالات الأزمات التي قد يُؤذي فيها المستخدمون أنفسهم أو غيرهم.

وفي ولاية واشنطن، وقّع الحاكم على قانونٍ يُلزم روبوتات الدردشة المعتمدة على الذكاء الاصطناعي بتذكير المستخدمين كلّ 3 ساعاتٍ بأنّهم يتحدّثون مع آلةٍ لا إنسان، ومن المقرّر أن يدخل حيّز التنفيذ في يناير 2027. وذهبت ولاياتٌ أخرى كإيلينوي إلى أبعد من ذلك بحظر العلاج النفسي المُقدَّم بالذكاء الاصطناعي كلياً.

على المستوى الفيدرالي، قدّم عضو مجلس النوّاب Mike Lawler، الجمهوري عن ولاية نيويورك، مشروع قانونٍ يُلزم شركات الروبوتات الحوارية بإخطار أولياء الأمور بالمحادثات التي يُعبّر فيها المستخدم عن أفكارٍ انتحارية، وإن كان هذا القانون لا يسري إلّا على القاصرين.