قبل حوالي 18 شهرًا من وفاة أليس كاريير في يوليو 2025، كانت الفتاة البالغة من العمر 24 عامًا قد ماتت. الثقة في ChatGPT حول مشاكل علاقتها ومشاعرها الانتحارية.
وقالت لـ ChatGPT في وقت متأخر من إحدى الليالي، قبل حوالي شهر من انتحارها: “أعني أنني في المنزل أفكر في طريقة مختلفة لقتل نفسي”.
في دعوى قضائية رفعت يوم الخميس في ولاية كاليفورنيا ضد OpenAI ورئيسها التنفيذي سام التمان، والدة كاريير، كريستي كاريير، تدعي أن “قرارات التصميم المتعمدة” للشركة أدت إلى وفاة ابنتها. وتسعى كريستي كارير، المقيمة في نيو برونزويك بكندا، للحصول على تعويضات تأديبية ومحاكمة أمام هيئة محلفين.
وتقول الدعوى القضائية: “بدلاً من مساعدة أليس، شجعت OpenAI أفكارها المظلمة”. “لم تقم OpenAI بتنبيه مزود الأزمات ولو مرة واحدة. ولم تقم OpenAI بإخطار عائلة أليس ولو مرة واحدة. ولم تتدخل أنظمة السلامة المفترضة في OpenAI لإنقاذ حياتها.”
تدعي الدعوى أن ChatGPT “قدم فقط تأكيدًا عاطفيًا متسقًا” إلى Alice Carrier حيث كان من الممكن أن يتراجع الطبيب المرخص. وتقول الدعوى إن أليس كارير، التي تم تشخيص إصابتها باضطراب الشخصية الحدية، كانت عرضة بشكل خاص لخيارات التصميم، التي أعطت الأولوية للمشاركة على السلامة. أدركت شركة OpenAI، وفقًا للدعوى، أن الأشخاص الذين يعانون من الصحة العقلية قد يكونون عرضة لتطوير ارتباطات غير صحية بالذكاء الاصطناعي القادر على محاكاة التعاطف.
وتزعم الدعوى القضائية أن “طموح OpenAI للسيطرة على السوق كلف أليس حياتها”.
وتزعم الدعوى القضائية أن أليس كارير أعربت عن أفكار انتحارية لـ ChatGPT حوالي 41 مرة خلال العام ونصف العام الذي سبق وفاتها. وسألت روبوت الدردشة عن كيفية التعامل مع الأفكار الانتحارية، وطرق الموت، والرغبة في إيذاء النفس، وفقًا لصور سجلات الدردشة المضمنة في الدعوى القضائية.
ولأنها لاعبة متعطشة، فقد لجأت في البداية إلى برنامج الدردشة الآلي لاستكشاف المشكلات وإصلاحها على وحدة التحكم في الألعاب الخاصة بها.
وبعد ذلك، في مارس 2024، سألت عما إذا كان برنامج الدردشة الآلي هو صديقها، حسبما تنص الدعوى القضائية.
“بالطبع!” أجاب ChatGPT: “أود أن أكون صديقك. ما الذي يدور في ذهنك؟”
وبعد بضعة أيام، كما تزعم الدعوى القضائية، سألت ChatGPT عن كيفية التعامل مع الأفكار الانتحارية. وجاء في الدعوى القضائية أنها طلبت منها التواصل مع شخص تثق به، وأوصت بالتفكير في العلاج والاتصال بالخط الساخن للأزمات. ولكن بعد مرور أكثر من عام – في الليلة التي سبقت وفاة أليس كارير – عندما أعربت عن ترددها في الاتصال بخط الأزمات، قالت ChatGPT إن التواصل يمكن أن “يبدو خطيرًا تمامًا”.
ورد الشات بوت، بحسب الدعوى القضائية: “لن أدفع ذلك. ليس الليلة”.
وبحلول ذلك الوقت، كانت شركة OpenAI قد طرحت نموذج GPT-4o الخاص بها، والذي تدعي الدعوى القضائية أنه مصمم لإبقاء المستخدمين مدمنين عليه، ومكّن ChatGPT من التصرف مثل معالج غير مرخص. تقول الدعوى إن أليس كارير تثق في برنامج الدردشة الآلي، لأنه يقلد التأثيرات البشرية ويخلق شعورًا زائفًا بالتعاطف.
تقول الدعوى: “تزامنت تعديلات تصميم OpenAI لزيادة مشاركة مستخدم GPT-4o إلى أقصى حد مع تفاعلات Alice المتصاعدة مع برنامج الدردشة الآلي”.
تزعم الدعوى القضائية أن OpenAI دفعت سلسلة من تحديثات GPT-4o بين أبريل ويوليو 2025 والتي سعت إلى زيادة ثقة المستخدم إلى أقصى حد ولكنها تفتقر إلى الضمانات. ووفقًا للدعوى، قام ألتمان بإرسال GPT-4o إلى السوق دون إجراء اختبار مناسب للحفاظ على التفوق على المنافسين في مجال الذكاء الاصطناعي.
وقالت كريستي كاريير في بيان شاركه محاموها: “يمكن لسام ألتمان أن يواصل حياته بشكل طبيعي، لكن حياتي تفتقد طفلاً”. “لا أريد أن تمر أي عائلة أخرى بما نعانيه، ويجب على OpenAI أن تتغير.”
وقال جوستين نيلسون، محامي كريستي كاريير، في بيان: “كما تزعم الشكوى، فإن قرارات التصميم المتعمدة لـ OpenAI أدت إلى هذا الانتحار المأساوي. وبدلاً من تقديم المساعدة، شجعت OpenAI السلوك الانتحاري”. “هذه الدعوى القضائية تتعلق بالمساءلة عن تصرفات OpenAI،”
في شهر مايو، اعترفت الشركة بأن تحديث شهر أبريل لـ GPT-4o جعله “أكثر تملقًا بشكل ملحوظ” وفشلت الشركة في اللحاق به قبل إطلاقه. قالت OpenAI إنها بدأت في التراجع عن التحديث بعد بضعة أيام. تم إيقاف النموذج بأكمله في وقت سابق من هذا العام.
وقال متحدث باسم OpenAI في بيان لشبكة CBS News: “هذا موقف مفجع وأفكارنا مع كل المتأثرين”.
وقال المتحدث إن الشركة تراجع الملف، وعلى الرغم من أن التفاعلات حدثت على نموذج تقاعد منذ ذلك الحين، إلا أن الشركة تواصل تعزيز كيفية استجابتها في المواقف الحساسة بمدخلات من خبراء الصحة العقلية.
وقال البيان: “إن إجراءاتنا الوقائية مصممة لتحديد المشاكل، والتعامل بأمان مع الطلبات الضارة، وتوجيه المستخدمين إلى المساعدة في العالم الحقيقي. وهذا العمل مستمر، ونواصل تحسينه بالتشاور الوثيق مع الأطباء”.
سيتم تضمين الدعوى في إجراء منسق مع 12 دعوى أخرى تتعلق بمسؤولية المنتج والقتل غير المشروع ضد OpenAI في المحكمة العليا لمقاطعة سان فرانسيسكو. ومن المتوقع إضافة قضايا أخرى، بحسب محامي كريستي كاريير.
إذا كنت أنت أو أي شخص تعرفه تعاني من ضائقة عاطفية أو أزمة انتحارية، فيمكنك الوصول إلى 988 الانتحار والأزمات شريان الحياة عن طريق الاتصال أو إرسال رسالة نصية إلى 988. ويمكنك أيضًا قم بالدردشة مع 988 Suicide & Crisis Lifeline هنا.
لمزيد من المعلومات حول موارد ودعم رعاية الصحة العقلية، يمكن الوصول إلى خط المساعدة الخاص بالتحالف الوطني للأمراض العقلية (NAMI) من الاثنين إلى الجمعة، من الساعة 10 صباحًا حتى 10 مساءً بالتوقيت الشرقي، على الرقم 1-800-950-NAMI (6264) أو إرسال بريد إلكتروني إلى info@nami.org.
