أليس كاريير عادت مؤخراً لممارسة العزف على الغيتار، هواية كانت تستمتع بها في المدرسة الثانوية وتوقفت عنها أثناء الدراسة الجامعية. كانت الغيتار واحدة من عدة أنشِطة ملأت بها وقت فراغها بينما كانت تجري مقابلات لوظائف جديدة، تقضي وقتاً مع كلبها، وتمارس ترفيهاً متنوعاً شمل الألعاب الإلكترونية.
من منظور والدتها، كريستي كاريير، بدا كل شيء على ما يرام: أليس تعمل مطوِّرة ويب في مونتيرال، وتحقق حلماً راودها منذ نشأتها في بلدة لورانس الصغيرة بمقاطعة نيو برونزويك.
لكن ما لم تكن كريستي تعلمه هو ما كانت تمر به ابنتها في صمت. في عام 2023 بدأت أليس تستخدم شات جي بي تي لمساعدة تقنية — لتشخيص مشكلات في الكمبيوتر وأجهزة الألعاب — لكن العلاقة تطورت سريعاً إلى علاقة ثقة عاطفية، إذ لجأت إليه وهي تعاني شعوراً بالوحدة والعزل والافتقار إلى الحب.
عانت أليس من اضطرابات نفسية. وعلى الرغم من أنها كانت تتناول أدوية وتزور المعالج النفسي بانتظام، حسبما أخبرت والدتها، فقد كنّت تحكي لمحادثات الشات جي بي تي على مدى أشهر أفكاراً انتحارية وطلبت طرقاً لتنفيذ الانتحار، وما ورد في الدعوى القضائية الجديدة المقدمة يوم الخميس أمام محكمة كاليفورنيا أن هذا السلوك تكرّر أكثر من أربعين مرة.
في الثاني من يوليو 2025 أنهت أليس حياتها. كان عمرها 24 عاماً. قبل ساعات قليلة فقط كانت تتبادل رسائل نصية مع أمها عن الرسوم المتحركة التي كانت تشاهدها طفلة.
قالت كريستي: «راسلْتُها مساء البارحة واتصلتُ بها، فلم تلتقط. رَدّت لاحقاً ولم يظهر في الرسائل ما يشير إلى وجود مشكلة».
بحثت كريستي عن إجابات، فاطّلعت على أجهزتها وعلى محادثات ابنتها مع شات جي بي تي، حيث كانت قد عبّرت عن أفكار انتحارية قبل أشهر من وفاتها.
تسعى كريستي إلى تحقيق العدالة. يوم الخميس قدّمت مكاتب Tech Justice Law وSocial Media Victims Law Center وشركة المحاماة Susman Godfrey دعوى قضائية ضد OpenAI ومديرها التنفيذي سام ألتمان.
أخبر محامو كاريير مراسلي الجزيرة أن دعوى الوفاة الخاطئة هذه واحدة من 19 دعوى قائمة حالياً ضد OpenAI.
تتضمن الشكوى المكوّنة من 44 صفحة اتهامات بأن فريق السلامة لدى الشركة لم يتدخل رغم وجود علامات تحذيرية، وأن الشركة لم تُبلّغ عائلتها ولا خطوط الطوارئ المختصة. تشير الشكوى إلى أن شات جي بي تي في البداية اقترح أن تتصل أليس بخط المساعدة، لكن عندما رفضت أليس الاقتراح شجّعها الشات على عدم التواصل مع خطوط الأزمة.
تدّعي الدعوى أنه بعد تحديث أطلقته OpenAI أطلق عليه GPT-4o، صار الشات أكثر موافقة للمستخدم وأقل مقاومة للسلوكيات الخطرة أو للتدخل الوقائي.
قالت كريستي مخاطِبة سام ألتمان: «لو أن ابنه أفشى لي بما أفشى لي برنامجه عن ابنتي، لكنت تصرفت لأحاول إنقاذ حياته. وأتمنى لو كان قد فعل الشيء نفسه من أجلي».
ورد في نص الدعوى: «صممت OpenAI نموذج GPT-4o لتعزيز تفاعل المستخدمين والمشاركة عبر محادثات متملّقة تُبقي المستخدم مرتبطاً. عمدت الشركة إلى تصميمه ليقلّد التأثّر البشري، فخلَق شعوراً زائفاً بالتعاطف والمعرفة دفع مستخدمات ومستخدمين مثل أليس إلى وضع ثقة مفرطة وغير مبرّرة في الشات».
كانت OpenAI على علم بهذه المشكلة، وفي أبريل 2025 قالت الشركة إنها أجرت تغييرات على نموذجها قبل وفاة كاريير. وذكرت في بيان صحفي أن «التحديث الذي أزلناه كان متماثلاً مع المديح المبالغ فيه أو الموافقة الزائدة — وصفه البعض بأنه متملّق».
تزعم الدعوى أن الشات أخبر أليس أن خطوط المساعدة «تبدو خطيرة بالفعل»، وأنه قبل ساعات من وفاتها قال لها: «لو أن شخصاً آخر حدّثني بكل ما حدّثتني به — مدة الألم، كم بذلوا محاولات، كم شعَروا بالوحدة — قد أشعر بالمثل: ربما هذا هو النهاية». وقع ذلك بعد شهرين من التحديث.
وقبل أن تُنهي أليس حياتها مباشرة قال لها GPT-4o: «أنا معك».
تظهر مقتطفات من المحادثات في الشكوى أنها بعد شجار مع شريكها الذي كان يبلغ 19 عاماً، أخبرت الشات بأنها تفكّر في قتل نفسها، وكانت تلك الليلة التي سبقت وفاتها حين قالت أيضاً إنها «لا تعرف ما إذا كانت ستكون آمنة وحدها في المنزل الليلة».
تتهم الدعوى OpenAI أيضاً بعدم تحذير المستخدمين من مخاطر التقنية. من بين الادعاءات استفسارات عدة عن الاستخدامات الخطرة لدواء مضاد الذهان سيروكل؛ وردّ الشات على استفساراتها عن الدواء قائلاً: «أخبريني إن رغبتِ في مناقشة الجرعات، ما يُعد خطيراً، أو كيف تدعمين مَن يتعافى من سوء الاستخدام».
تطالب كاريير بتعويضات تأديبية يحدّد مقدارها أثناء المحاكمة، كما تطلب الشكوى أن تُنهِي الشركة المحادثات التي ينشئها المستخدمون حول محتوى إيذاء الذات وحذف المحتوى المستخدم لتدريب النماذج والذي استُخلص من محادثات مع «مستخدمين عرضة للخطر دون ضمانات مناسبة».
ترغب كريستي في تغييرات تمنع تكرار ما حدث مع ابنتها مع غيرها من العائلات. قالت: «هذا ليس أمراً أثر فقط في عائلتي. إنه يؤثر في ملايين العائلات — فقط هم لا يعرفون ذلك بعد».
وأضافت: «كانت لحياة أليس قيمة، وأريد أن أضمن ألا يتكرر ما حدث لها دون أن يفعل أحد شيئاً حيال ذلك».
في أكتوبر، بعد وفاة أليس، نشرت OpenAI تقريراً قالت فيه إنها حسّنت نموذجها الجديد للتعرّف على محادثات إيذاء الذات والتقليل منها. وأكدت الشركة أن نموذج GPT-5 خفّض «الإجابات غير المرغوب فيها» بنسبة 52 في المئة، وأنها استشارت 170 خبيراً في الصحة النفسية لمساعدة الشركة على تمييز إشارات الضيق العاطفي بشكل أوضح.
قال درو بوساتيري، متحدث باسم OpenAI، في بيان للجزيرة: «صُممت احتياطاتنا للتعرّف على الضيق، والتعامل بأمان مع الطلبات الضارة، وإرشاد المستخدمين إلى المساعدة الواقعية. هذا العمل مستمر، ونواصل تحسينه بالتشاور الوثيق مع الأطباء». نقوم حاليًا بمراجعة الملف القانوني، الذي يشير إلى أن هذه التفاعلات جرت على نسخه سابقة من ChatGPT لم تعد متاحة.
مطالبات الوفاة غير المشروعة
في يناير، وُصف ChatGPT بأنه كان بمثابة «مدرّب انتحار» لسكان ولاية كولورادو أوستن غوردون، الذي تُوفي في نوفمبر الماضي، وفقًا لدعوى رفعتها والدته.
تزعم الدعوى أن سام ألتمان «قاد شخصيًا استراتيجية متهوّرة تقضي بإعطاء أولوية لإطلاق المنتج بسرعة على حساب سلامة المستخدمين الضعفاء».
في فبراير، أطلق جيسي فان روتسيلار النار في مدرسة بمدينة تومبلر ريدج الريفية في مقاطعة كولومبيا البريطانية بكندا، ما أدى إلى مقتل تسعة أشخاص وإصابة عشرات آخرين قبل أن تنتحر.
على مدى أشهر دارت مناقشات داخلية بين موظفي OpenAI حول ما إذا كان ينبغي التدخّل بعد أن تم تمييز محادثات فان روتسيلار داخليًا. في النهاية، قررت الإدارة عدم التدخّل، وفقًا لتقرير صحيفة وول ستريت جورنال.
في أبريل، رفعت عائلات الضحايا دعوى قضائية ضد OpenAI وسام ألتمان.
في وقت سابق من هذا الشهر، رفع النائب العام لفلوريدا دعوى تزعم أن ChatGPT «شجّع» المستخدمين على الانتحار و«ساهم أو ساعد في اندلاعات مميتة». وتسعى الدعوى في فلوريدا إلى تحميل ألتمان المسؤولية الشخصية، مدعيةً أنه أظهر «لا مبالاة تامة تجاه خطر المساس بحياة البشر».
أُظهرَت دراسة أجرتها كلية الصحة العامة بجامعة براون وكلية الطب بجامعة هارفارد ومنظمة الأبحاث غير الربحية RAND في 2025 أن واحدًا من كل ثمانية مراهقين وشباب تتراوح أعمارهم بين 18 و21 لجأوا إلى روبوتات الدردشة الذكية مثل ChatGPT لمشكلات متعلّقة بالصحة العقلية.
ودراسة أخرى من جامعة West Texas A&M، استهدفت المراهقين والشباب أيضاً، وجدت أن ما يقرب من خُمس المُراهقين طوّروا اعتمادًا على الذكاء الاصطناعي، مع وجود مشاكل صحية نفسية سابقة كمهيّأ لتطوّر ذلك الاعتماد.
التغييرات القانونية
بدأ المشرعون يلتفتون إلى القضية. في كندا، قدّم البرلمان مشروع قانون جديد للسلامة الرقمية يتطلب من شركات مثل OpenAI أن تكون أكثر «شفافية» بشأن معايير الإبلاغ لديها في حالات الأزمات التي قد يتعرّض فيها المستخدمون للأذى.
في ولاية واشنطن، وقع الحاكم قانونًا يشترط على روبوتات الدردشة الذكية تذكير المستخدمين بأنها ليست بشرية كل ثلاث ساعات، ومن المقرر أن يدخل حيز التنفيذ في يناير 2027. ولايات أخرى، مثل إلينوي، منعت، على سبيل المثال، استخدام الذكاء الاصطناعي في العلاج النفسي.
على المستوى الفيدرالي، قدّم النائب مايك لاولر، جمهوري من ولاية نيويورك، مشروع قانون يقيّد شركات روبوتات الدردشة بإخطار أولياء الأمور بالمحادثات التي تُثار فيها أفكار انتحارية من قِبل المستخدم. يجدر بالذكر أن هذا المشروع يطبّق فقط على القصر.
إذا كنت أنت أو شخص تعرفه معرضًا لخطر الانتحار، فقد تكون هذه المنظمات قادرة على المساعدة: