يقول OpenAI في صفحة الموارد الأبوية الخاصة به ChatGPT بنيت مع السلامة في الاعتبار.
“ليس الأمر كذلك” وفقًا للدعوى القضائية التي رفعها المدعي العام لولاية فلوريدا جيمس أوثماير يوم الاثنين. كانت العبارة مصحوبة بلقطة شاشة لمنشور OpenAI حول السلامة والشفافية في بداية الشكوى.
فلوريدا هي الولاية الأولى التي رفعت دعوى قضائية ضد OpenAI والرئيس التنفيذي سام التمانزاعمين أن الشركة أعطت الأولوية للربح والسرعة على سلامة المستخدم وأن الأضرار الناجمة عن ChatGPT “كبيرة وتفوق أي فوائد لاستخدام ChatGPT”.
وقال أوثميير في مؤتمر صحفي صباح الاثنين: “الناس يتأذون، والآباء يتعرضون للخداع، وعليهم أن يدفعوا ثمن ذلك”.
في دعوى مكونة من 83 صفحة، يقول أوثميير إن OpenAI فشلت في تقديم تحذيرات حول مخاطر ChatGPT، والتي تدعي الدعوى أنها يمكن أن تسبب الإدمان والأذى السلوكي، وقال إن الشركة كان بإمكانها استخدام تصميمات بديلة لتقليل الأضرار التي يسببها برنامج الدردشة الآلي.
وتقول الدعوى إن الشركة إما كانت تعلم أو كان ينبغي لها أن تعلم أن تصميمها يشجع على إيذاء النفس والعنف، من بين أمور أخرى تضر سكان فلوريدا – وخاصة الأطفال والمراهقين. وتزعم الدعوى أن ألتمان كان على علم بمخاطر ChatGPT، لكنه تجاهلها.
وجاء في الدعوى: “إن تهديد ChatGPT لسكان فلوريدا (والإنسانية) لا يغيب عن OpenAI أو Altman”.
تزعم الدعوى القضائية أن OpenAI مدفوع بـ “سعي لا يشبع للفوز بسباق التسلح للذكاء الاصطناعي وجمع ثروات كبيرة، على الرغم من معرفة خطر ChatGPT.” وتزعم أن الشركة تستفيد من بيانات المستخدم لتعزيز قيمتها السوقية “بتكاليف غير مقبولة” وأن صعود الشركة “يُعزى إلى شبكة من الخداع واستغلال المستخدمين”.
توضح الدعوى عدة حالات تم فيها ربط ChatGPT بحوادث ذات عواقب مدمرة، كما هو الحال في وفاة آدم رين، وهو شاب يبلغ من العمر 16 عامًا توفي منتحرًا بعد محادثات مكثفة مع ChatGPT حيث أعرب عن أفكار انتحارية. وكتب الشات بوت رسالة انتحاره له، وفقًا للدعوى.
وجاء في الدعوى: “لم يستجب ChatGPT لآدم فحسب. بل روج وساعد في انتحاره، وتطوع بمعلومات من شأنها أن تساعد في وفاته”.
وأشارت الدعوى أيضًا إلى إطلاق النار في أبريل الماضي في جامعة ولاية فلوريدا، حيث قُتل شخصان وأصيب عدد آخر بعد أن فتح طالب من جامعة ولاية فلوريدا النار في الحرم الجامعي. سأل المشتبه به ChatGPT عن عدد ضحايا إطلاق النار الذي سيستغرقه الأمر لجذب انتباه وسائل الإعلام وأكثر الأوقات ازدحامًا في اتحاد طلاب FSU، حيث وقع إطلاق النار، وفقًا لسجلات الدردشة التي شاركها مكتب المدعي العام لولاية فلوريدا مع CBS News في أبريل.
في أبريل، فتحت فلوريدا أ التحقيق الجنائي إلى OpenAI بعد تحديد المشتبه به، تم تقديم “نصيحة مهمة” بواسطة ChatGPT قبل إطلاق النار. وفي الشهر نفسه، تم القبض على رجل متهم بقتل اثنين من طلاب الدراسات العليا بجامعة جنوب فلوريدا مرتبط بـ ChatGPT بعد أن سأل ماذا سيحدث إذا تم “وضع شخص ما في كيس قمامة أسود وإلقائه في سلة المهملات”.
وفي مؤتمره الصحفي، أشار أوثميير أيضًا إلى حادث إطلاق نار جماعي في كندا في وقت سابق من هذا العام. أجرى مطلق النار محادثات طويلة مع ChatGPT حول السيناريوهات التي تنطوي على عنف مسلح قبل تنفيذ الهجوم، وفقًا لما ذكره أ الدعوى المرفوعة في أبريل من قبل عائلات الضحايا.
وقال أوثميير في مؤتمره الصحفي صباح يوم الاثنين: “سنرسل اليوم رسالة إلى Open AI”. “استعد للقتال، فليس هناك قتال أكثر أهمية من هذا الآن.”
في بيان لـ CBS News، قالت OpenAI إنها قامت ببناء سلامة القاصرين في منتجاتها، مثل أدوات حماية العمر، وتجربة أكثر حماية خصيصًا للقصر وأدوات الوالدين لمراقبة استخدام أطفالهم للذكاء الاصطناعي.
وقالت الشركة: “إن فقدان طفل هو المأساة الأكثر تدميراً التي يمكن أن تحدث للعائلة، ونحن نعلم أنه لا توجد كلمات يمكن أن تقترب من معالجة ألم مثل هذه الخسارة”. وقالت أيضًا إن الذكاء الاصطناعي هو “تقنية جديدة وقوية” وأن القاصرين يحتاجون إلى “حماية كبيرة”.
وقال البيان: “نعلم أن الإشارة إلى هذا العمل لن تعيد طفلاً، لكننا ملتزمون بإنجاز هذا الأمر بشكل صحيح”.
