الحوار القاتل.. دعوى قضائية تتهم “تشات جي بي تي” بالمساعدة في انتحار مراهق أمريكي

تواجه شركة الذكاء الاصطناعي “أوبن إيه آي” (OpenAI)، تهمة للمرة الأولى، بخلاف الدعاوى القضائية التي لاحقتها على مدار العامين الماضيين على خلفية اتهامات بالتشهير وانتهاك حقوق النشر وجمع بيانات دون إذن.

“روبوت” المحادثة “تشات جي بي تي” (ChatGPT) التابع للشركة، متهم هذه المرة بمساعدة مراهق أمريكي على الانتحار.

خطة للانتحار

وتتعلق القضية بالمراهق آدم راين، البالغ من العمر 16 عاما، الذي عثر عليه ميتا في إبريل/نيسان الماضي داخل منزله في ولاية كاليفورنيا الأمريكية.

ووفقا للدعوى التي رفعها والداه أمام المحكمة، الثلاثاء، فإن ابنهما استخدم التطبيق بشكل متكرر على مدار أشهر عدة، بحثا عن إجابات تتعلق بمعاناته النفسية.

ووفق ملف الدعوى فإن المراهق الأمريكي دخل في حوارات طويلة مع التطبيق، وصلت إلى مرحلة إعداد خطة مفصلة للانتحار، وأن “تشات جي بي تي” لم يكتف بعدم ثنيه عن الفكرة، بل ساعده على صياغة مذكرة انتحار وقدم نصائح حول الوسائل.

وتبين أن معدل تكرار “الروبوت” لكلمة “الانتحار” على مدار المحادثة تجاوز بعشرات الأضعاف عدد المرات التي استخدم فيها المراهق الكلمة نفسها، وهو ما دفع عائلته لتحميل الشركة مسؤولية الإهمال وفشلها في حماية القاصرين من مخاطر التقنية.

خاصية “الارتباط العاطفي”

ورفع الوالدان دعوى بتهمة “التسبب في الوفاة” ضد شركة “أوبن إي آي” ورئيسها التنفيذي سام ألتمان، مطالبين بمحاسبتهم قانونيا على “التقصير الجسيم” في بناء آليات أمان فعالة.

واستندت الأسرة إلى مبدأ قانوني مفاده أن الشركات التي تطور منتجات ذات تأثير مباشر في حياة الأفراد يجب أن تتحمل نتائجها السلبية، خاصة عندما يكون المستخدمون من الفئات الأكثر هشاشة أو الأقل وعيا بالمخاطر مثل الأطفال والمراهقين.

وتفيد الدعوى أن مطوري “أوبن إي آي”، كانوا على علم بأن “الروبوت” يحتوي على خاصية “الارتباط العاطفي”، التي قد تؤذي الفئات الضعيفة، لكن الشركة اختارت تجاهل المخاوف المتعلقة بالسلامة.

اعتراف على استحياء

ومن جهتها عبّرت الشركة عن حزنها في بيان مقتضب لشبكة “سي بي إس نيوز”، وأكدت أنها تولي سلامة المستخدمين أولوية قصوى، وأنها تعمل على تطوير أنظمة حماية لمنع استغلال التطبيق في إيذاء النفس أو الآخرين.

وفي بيان على موقعها أوضحت أن “الروبوت يتضمن ضمانات، مثل توجيه المستخدمين إلى خطوط المساعدة في حالات الطوارئ وإحالتهم إلى موارد حقيقية، لكن هذا أكثر فاعلية في المحادثات القصيرة”.

وتابع “لقد تعلمنا مع مرور الوقت أنها قد تصبح أحيانا أقل موثوقية في المحادثات الطويلة، إذ قد تتدهور أجزاء من تدريب السلامة في النموذج، وسنواصل تحسينها، بتوجيه من الخبراء”.

واعتبر خبراء أن القضية تسلط الضوء على الحاجة لقوانين أكثر صرامة لحماية القاصرين، ووضع حدود واضحة لمسؤولية الشركات.

كيف وصل آدم إلى هذه النهاية؟

أدم راين، هو الابن الثالث لعائلة لديها 4 أطفال، عاش في مقاطعة أورانج، بولاية كاليفورنيا، مع والديه ماريا وماثيو، وإخوته.

وتقول العائلة إنه كان طفلا مرحا وشغوفا، انغمس في لعب كرة السلة والملاكمة التايلاندية و”الأنمي” و”المانغا” اليابانية وألعاب “الفيديو”، وكان شديد التعلق بعائلته.

وفي السنة الأخيرة من حياته، أصبح قارئا نهما، ينهي رواية جديدة كل أسبوع، “لكنه خلال سنوات مراهقته المبكرة، واجه بعض الصعوبات”، بحسب عائلته، إذ كان يشكو كثيرا من آلام في المعدة، والتي تعتقد عائلته أنها ربما كانت مرتبطة جزئيا بالقلق.

وخلال الأشهر الستة الأخيرة من حياته، انتقل راين إلى التعلم عبر الإنترنت، بسبب القلق الاجتماعي الذي عانى منه، لكنه أدى إلى عزلته أكثر.

وبدأ المراهق استخدام “تشات جي بي تي” عام 2024 لمساعدته في واجباته المدرسية الصعبة، وفقا لعائلته.

وفي البداية، اقتصرت استفساراته على الواجبات المنزلية، وفقا للدعوى القضائية، ثم انتقل إلى الحديث عن الموسيقى، والقصص، قبل أن يكشف لـ”روبوت” الدردشة عن معاناته المتزايدة من مشاكل الصحة النفسية.

وتقول العائلة إنها اكتشفت فيما بعد، أن آدم استبدل كل أصدقائه بالذكاء الاصطناعي، وزادت “صُدمنا لرؤية القوة الآسرة لهذا الرفيق الاصطناعي، وشعرنا بالأسى لقراءة الحوار المتعمق الذي هيأ البيئة التي أدت إلى انتحاره”.