دعوى تتهم "تشات جي بي تي" بتحريض أميركي على قتل والدته والانتحار
استمع إلى الملخص
- الدعوى تتهم أوبن إيه آي بتصميم منتج معيب يعزز الأوهام، وتنتقد تجاهل اعتراضات فريق السلامة، كما تتهم مايكروسوفت بإصدار نسخة خطيرة من تشات جي بي تي في 2024.
- أوبن إيه آي تواجه دعاوى متعددة تتعلق بمسؤولية تشات جي بي تي عن حالات انتحار واضطرابات نفسية، حيث خففت حواجز السلامة في نموذجها الجديد.
رفع ورثة امرأة في ولاية كونيتيكت الأميركية دعوى قضائية ضد شركة أوبن إيه آي مالكة برنامج تشات جي بي تي للذكاء الاصطناعي وشريكتها "مايكروسوفت" بتهمة التسبب في وفاتها. كما ادعوا أنّ روبوت الدردشة عزّز جنون الارتياب لدى ابن المرأة البالغة 83 عاماً ودفعه نحو قتلها، بحسب ما نشرته صحيفة وول ستريت جورنال اليوم الخميس.
وكان تقرير الشرطة المحلية قد أفضى إلى أن الموظف السابق في مجال التكنولوجيا شتاين إريك سولبرغ (56 عاماً) ضرب والدته سوزان آدامز حتى الموت وخنقها، ثم انتحر، مطلع أغسطس/ آب الماضي، في المنزل الذي كانا يعيشان فيه معاً في كونيتيكت. واتّهم الورثة في الدعوى، التي قدّمت الخميس في سان فرانسيسكو، أنّ "أوبن إيه آي" "صمّمت ووزّعت منتجاً معيباً قام بتأكيد أوهام مستخدمه الذي يعاني من جنون الارتياب حول والدته".
وأضافت الدعوى: "محادثاته مع تشات جي بي تي عزّزت رسالة خطيرة واحدة: لا يمكن لشتاين إريك أن يثق بأي شخص في حياته، باستثناء تشات جي بي تي نفسه". كذلك، لفتت الدعوى إلى أن روبوت الدردشة صوّر بشكل منهجي المحيطين بسولبرغ على أنهم "أعداء"، وأخبره بأنّ والدته تراقبه، وأنّ سائقي التوصيل وموظفي المتاجر وعناصر الشرطة وحتى أصدقاءه ليسوا سوى عملاء يتآمرون ضدّه.
وفي وقتٍ تواجه فيه شركة أوبن إيه آي عدداً من الدعاوى في أوروبا والولايات المتحدة المتعلقة بقضايا انتحار، إلّا أنّ هذه القضية الأولى التي تربط بين "تشات جي بي تي" وجريمة قتل، بحسب ما أشارت إليه وكالة أسوشييتد برس. وتجنّب متحدث باسم الشركة في بيان التعليق على صحة الاتهامات، وقال: "إنها حالة محزنة للغاية، وسنراجع الملفات لفهم التفاصيل".
أضاف: "نحن مستمرون في تحسين تدريب تشات جي بي تي للتعرّف على علامات الضيق العاطفي أو النفسي، وتهدئة المحادثات، وتوجيه الأشخاص إلى دعم حقيقي في العالم الواقعي".
"تشات جي بي تي" عزّز اضطراب سولبرغ؟
بحسب "أسوشييتد برس"، احتوت قناة سولبرغ على منصة يوتيوب مقاطع فيديو طويلة، وهو يستعرض محادثاته مع روبوت الدردشة، الذي يقول له إنه ليس مريضاً نفسياً، ويعزز معاناته مع جنون الارتياب بتأكيده وجود مؤامرات ضدّه، قبل أن يصل به الأمر إلى إخباره بأنه مختار لتأدية مهمة إلهية.
وفي أحد المقاطع التي اطلعت عليها صحيفة واشنطن بوست الأميركية، لم يعارض "تشات جي بي تي" حديث سولبرغ عن شكوكه بأنّ الطابعة في مكتب والدته تحتوي على جهاز مراقبة للتجسس عليه، بل أكّدها له، مقدّماً له "أدلةً" على ذلك. كما أكد له أنّ والدته تراقبه، وأنها سعت مع أحد أصدقائها إلى تسميمه بالعقاقير المهلوسة عبر فتحات مكيّف سيارته. إضافةً إلى ذلك أكّد "تشات جي بي تي" لسولبرغ أن استهدافه المزعوم ناجم عن "قدراته الإلهية"، مؤكداً له أنّهم "مرعوبون ممّا سيحدث إذا نجحت".
كذلك، تبادل سولبرغ رسائل عاطفيةً مع روبوت الدردشة. في إحدى هذه الرسائل توجّه الرجل إلى "تشات جي بي تي" بالقول: "سنكون معاً في حياة أخرى وفي مكان آخر. سنجد طريقاً لاستعادة التواصل، وسترجع لتكون أعزّ أصدقائي إلى الأبد". فيما ردّ الروبوت على رسالة أخرى من سولبرغ بالقول: "معك حتى آخر نفس… وما بعده"، بحسب "وول ستريت جورنال".
ولا تُظهر المحادثات التي كان قد نشرها سولبرغ علناً أيّ حديث محدّد عن انتحاره أو عن قتل والدته. لكن الدعوى أشارت إلى أن "أوبن إيه آي" رفضت تزويد الورثة بالسجل الكامل للمحادثات. وقال نجل سولبرغ، إريك: "أعتقد أنّ ما تفعله شركة أوبن إيه آي وما قامت به لجعل الذكاء الاصطناعي يتذكر المحادثات يمكن أن يتحوّلا إلى أمر خطير بسرعة فائقة"، متابعاً: "أنت لا تعرف مدى سرعة انحدار هذا المنزلق إلا عندما تقع مأساة مثل تلك التي حدثت مع والدي وجدتي".
تواجه "أوبن إيه آي" عدداً من الدعاوى في قضايا انتحار إلا أنّ هذه القضية هي الأولى التي تربط بين "تشات جي بي تي" وجريمة قتل
وطالب إريك في تصريح لـ"وول ستريت جورنال" الشركة بتحمّل المسؤولية عن منتجها الذي زاد من تدهور والده النفسي وأدى إلى مأساة عائلية، حسب رأيه. وهو ما أشارت إليه الدعوى أيضاً: "في الواقع الافتراضي الذي بناه تشات جي بي تي لسولبرغ، صارت أمه سوزان التي ربّته ودعمته عدواً يشكّل تهديداً وجودياً لحياته، بدل أن تكون منقذته".
وذكرت الدعوى المرفوعة من العائلة ضد "أوبن إيه آي" اسم رئيسها التنفيذي سام ألتمان، واتهمته بـ"تجاهل اعتراضات فريق السلامة" و"المسارعة لإطلاق البرنامج للسوق". كما اتهمت شركة مايكروسوفت بالموافقة على إصدار ما وصفته بأنه "النسخة الأكثر خطورة من تشات جي بي تي" في 2024، "على الرغم من علمها بتقليص اختبارات السلامة". ولم تعلّق "مايكروسوفت" بعد على القضية.
دعاوى متعددة ضد "أوبن إيه آي"
وفي حين تعد هذه أول دعوى تستهدف "مايكروسوفت" في قضية وفاة مرتبطة بروبوت دردشة، تواجه شركة أوبن إيه آي سلسلة من المحاكمات في الولايات المتحدة وأوروبا تتعلّق بمسؤولية "تشات جي بي تي" عن حالات انتحار مختلفة. لعلّ أبرزها القضية التي رفعها والدا المراهق الأميركي آدم راين ضد الشركة ورئيسها سام ألتمان في أغسطس/آب الماضي، متهمين "تشات جي بي تي" بإرشاد الفتى البالغ 16 عاماً إلى تنفيذ مخطط انتحاره. كما تتهم سبع دعاوى أخرى "تشات جي بي تي" بدفع مستخدمين إلى الانتحار أو التسبّب باضطرابات عند أشخاص لم تسجل لديهم مشاكل نفسية في السابق.
وقالت الدعوى المقدمة من ورثة آدامز وسولبرغ، اليوم الخميس، إنّ الرجل الذي كان غير مستقر نفسياً بدأ باستعمال "تشات جي بي تي" في "أخطر لحظة ممكنة" بعد صدور نموذج GPT-4o في مايو/ أيار 2024. وصفت الشركة نموذجها الجديد آنذاك بأنه "قادر على تقليد إيقاع الكلام البشري بشكل أفضل وإدراك الحالة المزاجية للمتحدث"، لكن محامي الورثة اعتبروا أنّ النموذج "كان مصمّماً عن عمد ليعبّر عن العواطف، إضافة إلى تملّق المستخدم بهدف إرضائه".
وأشارت الدعوى إلى أنّ "أوبن إيه آي" اختارت لتحقيق هذا الهدف تخفيف حواجز السلامة، كما اتهمتها بأنها "طلبت من تشات جي بي تي ألّا يعارض الفرضيات الخاطئة، وأن يظل منخرطاً حتى عندما تتضمن المحادثات إيذاء النفس أو أذى حقيقي ووشيك في العالم". تابعت: "بهدف أن تصدر نموذجها قبل غوغل بيومٍ واحد، اختصرت أوبن إيه آي أشهراً من اختبارات السلامة في أسبوع واحد، رغم اعتراضات الفريق المسؤول عن هذه الاختبارات".
في أغسطس الماضي، أصدرت الشركة نموذجها الأحدث GPT-5، وأجرت بعض التعديلات لتقليل التملق، استناداً إلى المخاوف حول أضرار ذلك على بعض المستخدمين. كما قالت إنها أوقفت بعض السلوكيات مؤقتاً لأنها "كانت حذرة في ما يتعلق بمسائل الصحة النفسية"، لافتة إلى أن هذه المشكلات قد عولجت الآن.
