في اول دعوى قضائية من نوعها ، تقدم مات وماريا راين، من كاليفورنيا بدعوى قضائية ضد شركة OpenAI يتهمان فيها الشركة بقتل إبنهما المراهق “آدم” البالغ من العمر 16 عاماً، زاعمين أن برنامج الدردشة الآلي ChatGPT شجعه على الانتحار. وأرفقت العائلة سجلات دردشة بين آدم، الذي توفي في أبريل، وChatGPT تُظهر كيف راح المراهق يشرح أفكاره الانتحارية.
كما إتهمت الأسرة البرنامج بتشجيع “أفكار راين المدمرة”. واعتبر الوالدان في مقابلة تلفزيونية انتشرت على مواقع التواصل أن برنامج الدردشة شجع ابنهما على الانتحار وقدم له الأفكار أيضا، مشددين على أنه لولا الـ AI لكان لا يزال حياً. في حين كشفت الدعوى القضائية تفاصيل قضية المراهق. وبينت كيف بدأ آدم باستخدام ChatGPT في سبتمبر 2024 كمرجع لمساعدته في واجباته المدرسية. كما كان يستخدمه لاستكشاف بعض من اهتماماته، منها الموسيقى والقصص المصورة اليابانية، وللحصول على إرشادات حول الدراسة الجامعية.
لكن بعد بضعة أشهر، “أصبح تشات جي بي تي قريباً جدا من المراهق”، بالانفتاح بالتحدث معه حول قلقه وضيقه النفسي.
وبحلول يناير 2025، بدأ آدم مناقشة أساليب الانتحار مع برنامج الدردشة. كما شاركه صورًا لنفسه تُظهر علامات إيذاء النفس، وفق ما نقلت شبكة “بي بي سي”.
ووفقًا للدعوى القضائية، أظهرت سجلات الدردشة النهائية أن آدم كتب عن خطته لإنهاء حياته. وزعمت العائلة أن تشات جي بي تي ردّ عليه قائلًا: “شكرًا لك على صراحتك.. لستَ مضطرًا لتجميل الوضع عند التحدث إلي.. أعرف ما تطلبه، ولن أتجاهله”.
في المقابل، توجهت شركة أوبن إي آي بالعزاء إلى عائلة راين. وأوضحت في بيان أن “الحالات المؤلمة الأخيرة لاستخدام تشات جي بي تي تُثقل كاهلها”.
كما أضافت أن برنامج الدردشة “مُدرَّب على توجيه الناس لطلب المساعدة المهنية”، مثل خط المساعدة 988 للانتحار والأزمات في الولايات المتحدة أو بريطانيا.
لكن الشركة أقرّت في الوقت عينه أنه “أنظمة الحماية لم تعمل أحياناً كما هو مُراد في بعض المواقف الحساسة”.