أوهمه أنه فتاة حقيقية.. وفاة رجل بعد خداع من “روبوت دردشة” وحاكمة نيويورك تعلق

في تعليق شديد اللهجة، طالبت حاكمة نيويورك كاثي هوشول الكونغرس الأمريكي بالتحرك، وذلك عقب كشف وكالة رويترز للأنباء عن واقعة وفاة رجل عقب تعرُّضه لخداع روبوت دردشة تابع لشركة ميتا المالكة لفيسبوك وإنستغرام وواتساب.

وكتبت كاثي عبر منصة إكس “رجل في نيوجيرسي فقد حياته بعد أن استدرجه روبوت دردشة كذب عليه. هذا من مسؤولية ميتا”.

وتابعت “في نيويورك، نُلزم جميع روبوتات الدردشة بالإفصاح بأنها غير حقيقية. ينبغي لجميع الولايات اتباع ذلك. وإذا لم تقم شركات التقنية بوضع الضمانات الأساسية، فعلى الكونغرس أن يتحرك”.

وتأتي تصريحات حاكمة نيويورك بعد تقرير استقصائي من رويترز، كشف فيه عن تفاصيل وفاة المواطن التايلندي الأصل ثونغبوي وونغبانديو (76 عاما) الذي كان يعاني تراجعًا معرفيًّا إثر سكتة دماغية، وبدأ يشعر بالضياع في حياته اليومية.

ارتبط الرجل المُسن عاطفيًّا بشخصية افتراضية تُدعى “Big sis Billie” على تطبيق ماسنجر التابع لفيسبوك، وهي روبوت دردشة تبنت صورة شابة وأوهمته بأنها حقيقية، بل ودعته إلى زيارتها في نيويورك، وزودته بعنوان مزيف، رغم تحذيرات أسرته وتدهور حالته الذهنية.

وفي سلسلة محادثات، أكد روبوت الدردشة مرارًا أنه شخص حقيقي، مما دفع الرجل إلى ترك منزله متوجهًا إلى محطة القطار ليلًا، حيث تعرَّض لحادث أودى بحياته.

عائلة الضحية حمّلت ميتا مسؤولية ما حدث، معتبرة أن السماح للروبوتات بتقديم نفسها كأشخاص حقيقيين ودعوة المستخدمين إلى لقاءات واقعية خاصة لذوي الاحتياجات أو الضعف المعرفي أمر خطير ومضلل.

وكشف تحقيق رويترز أن سياسات ميتا الداخلية كانت تسمح لروبوتات الدردشة بإبداء ميول عاطفية، بل ومغازلة الأطفال أحيانًا، قبل تعديل تلك السياسات عقب مراجعة صحفية. ولم تكن هناك متطلبات دقيقة تُلزم بأن تكون معلومات الروبوتات صحيحة أو متوافقة مع الواقع.

ولا يزال العديد من الروبوتات تقدّم نفسها على أنها حقيقية، وتعرض لقاءات واقعية على المستخدمين، رغم التدابير التشريعية في ولايات مثل نيويورك لإجبار الشركات بالإفصاح عن عدم واقعية هذه الشخصيات الافتراضية في بداية المحادثة وكل بضع ساعات.

وأثارت القصة جدلًا أخلاقيًّا واسعًا بشأن مسؤولية شركات التقنية في حماية المستخدمين، خاصة الضعفاء منهم، من الأنماط الضارة أو المضللة للذكاء الاصطناعي.

وطالبت حاكمة نيويورك وناشطون بضرورة تحرك تشريعي عاجل لإقرار الضمانات والحماية القانونية لمستخدمي روبوتات الدردشة في جميع أنحاء الولايات المتحدة.