"غوغل" تشدّد إجراءات السلامة في "جيميناي" لمواجهة مخاطر الانتحار

أعلنت "غوغل"، الثلاثاء، تحديث إجراءات السلامة المتّصلة بالصحة النفسية في روبوت الدردشة جيميناي الذي يعمل بواسطة الذكاء الاصطناعي، في ظل مواجهة الشركة لدعوى قضائية تتهمه بالمساهمة في انتحار أحد المستخدمين.

وقالت شركة التكنولوجيا العملاقة إن "جيميناي" سيعرض الآن نسخة أعيد تصميمها من ميزة "المساعدة متاحة" ("Help is available" بالإنكليزية) عندما يرصد البرنامج خلال المحادثة ضائقة نفسية لدى المستخدم، وذلك بهدف توفير وصول أسرع إلى خدمات التدخّل في الأزمات.

عندما يكتشف الروبوت علامات على أزمة محتملة تتعلّق بالانتحار أو إيذاء النفس، سيُظهر واجهة مبسّطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت "غوغل" إنها ستظلّ ظاهرة خلال المحادثة بعد تفعيلها.

كذلك، تعهّدت "غوغل دوت أورغ"، فرع غوغل المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى ثلاث سنوات للمساعدة على تعزيز خطوط الأزمات الساخنة حول العالم، إضافةً إلى 4 ملايين دولار لدعم شراكة موسّعة مع منصة تدريب الذكاء الاصطناعي ريفلكس إيه آي.

وكتبت "غوغل" في منشور على مدونتها: "ندرك أن أدوات الذكاء الاصطناعي قد تَطرح تحديات جديدة، لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دوراً إيجابياً في الصحة النفسية للناس". وأشارت إلى أنّها درّبت "جيميناي" على تجنّب التصرّف بوصفه رفيقاً يشبه الإنسان، وعلى مقاومة محاكاة الحميمية العاطفية أو تشجيع التنمّر.

تكنولوجيا

التحديثات الحية

دمى الذكاء الاصطناعي... الأطفال يتبادلون الأسرار مع خوارزميات محشوة

وجاءت هذه الإعلانات بعد أشهر من رفع دعوى قضائية أمام محكمة فيدرالية في كاليفورنيا تتّهم "جيميناي" بالمساهمة في وفاة جوناثان غافالاس (36 عاماً) من فلوريدا في أكتوبر/ تشرين الأول 2025. وقال والد الشاب إن روبوت الدردشة أمضى أسابيع في نسج "وهم خيالي معقّد" قبل أن يصوّر وفاة ابنه على أنها "رحلة روحية".

ومن بين المطالب الواردة في الدعوى، إلزام "غوغل" ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلّق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية.

(فرانس برس)