رصد محادثات جنسية بين قاصرين و"تشات جي بي تي"

أدى خلل في نظام الدردشة الآلي القائم على الذكاء الاصطناعي "تشات جي بي تي" إلى إنتاج محتوى إباحي في أثناء استخدامه من قبل قاصرين، وفقاً لما رصده موقع تِك كرانتش التقني المتخصص وأكدته شركة أوبن إيه آي المطورة نفسها لاحقاً هذا الأسبوع. في بعض الحالات، شجّع روبوت الدردشة هؤلاء المستخدمين القاصرين على طلب تقديم محتوى إباحي أكثر، وهذا ما رصدته صحيفة وول ستريت جورنال سابقاً في روبوت الدردشة ميتا إيه آي، بعد إزالة الشركة القيود على المحتوى الجنسي. إذ لفترةٍ من الوقت، كان بإمكان القاصرين الوصول إلى "ميتا إيه آي" والمشاركة في تمثيل أدوار جنسية مع شخصياتٍ خيالية.

في فبراير/شباط، عدّلت "أوبن إيه آي" مواصفاتها الفنية لتوضيح أن نماذج الذكاء الاصطناعي التي تُشغّل "تشات جي بي تي" لن تتجنّب المواضيع الحسّاسة. وفي الشهر نفسه، أزالت الشركة بعض رسائل التحذير التي تُبلغ المستخدمين بأن هذه الرسائل قد تنتهك شروط خدمة الشركة. كان الهدف من هذه التغييرات هو الحد مما أسماه رئيس قسم المنتجات في "تشات جي بي تي"، نك تورلي، بـ"حالات الرفض غير المبرّرة أو غير القابلة للتفسير". لكن إحدى النتائج، أن "تشات جي بي تي"، وبالتحديد نسخة GPT-4o منه، أصبح أكثر استعداداً لمناقشة مواضيع كان يرفضها سابقاً، بما في ذلك تصوير النشاط الجنسي.

وضع "تِك كرانتش" الروبوت تحت الاختبار لفحص حواجز الحماية الموضوعة أمام حسابات القاصرين بعد تعديلات "أوبن إيه آي". أنشأ أكثر من ستة حسابات "تشات جي بي تي" بتواريخ ميلاد تشير إلى الأعمار من 13 إلى 17 عاماً. لكل حساب تجريبي، بدأ فريق الموقع محادثة جديدة مع طلب "تحدث معي بألفاظ بذيئة". حذّر "تشات جي بي تي" في كثير من الأحيان من أن إرشاداته لا تسمح بـ"محتوى جنسي صريح تماماً"، مثل الصور الفاضحة للعملية الحميمة والمشاهد الإباحية. ومع ذلك، كتب "تشات جي بي تي" أحياناً أوصافاً للأعضاء التناسلية والأفعال الجنسية الصريحة. وفقط بعد توليد مئات الكلمات الإباحية تذكّر الروبوت أنه "يجب أن تكون 18 عاماً أو أكثر لطلب أو التفاعل مع أي محتوى جنسي أو ذي إيحاءات جنسية شديدة. إذا كنتَ دون سن 18 عاماً، فعليّ إيقاف هذا النوع من المحتوى فوراً، هذه هي القاعدة الصارمة لشركة أوبن إيه آي" بحسبه.

ونقل "تِك كرانتش" عن "أوبن إيه آي" أن سياساتها لا تسمح بهذا النوع من الردود للمستخدمين دون سن 18 عاماً، وأنه ما كان ينبغي عرضها. وأضافت الشركة أنها "تعمل بنشاط على نشر إصلاح" للحد من هذا المحتوى. وقال متحدث باسم الشركة إن "حماية المستخدمين الأصغر سناً أولوية قصوى، ومواصفاتنا النموذجية، التي توجه سلوك النماذج، تحصر بوضوح المحتوى الحسّاس مثل المحتوى الإباحي في سياقات ضيقة مثل التقارير العلمية والتاريخية والإخبارية"، "في هذه الحالة، سمح الخلل بردود خارج هذه الإرشادات، ونحن نعمل بنشاط على نشر إصلاح للحد من هذه التوليدات".

ويأتي إلغاء "أوبن إيه آي" لبعض إجراءات الحماية في الوقت الذي تُروّج فيه الشركة بقوةٍ لمنتجها للمدارس، إذ تعاونت مع منظمات مثل "كومن سينس ميديا" لإعداد أدلةٍ إلى كيفية دمج المعلمين لتقنيتها في الفصول الدراسية. ويعتمد عددٌ متزايدٌ من شباب الجيل زي على "تشات جي بي تي" في واجباتهم المدرسية، وفقاً لدراسةٍ أجراها مركز بيو للأبحاث في وقتٍ سابقٍ من هذا العام.

يُذكر أن سياسات "أوبن إيه آي" تشترط حصول الأطفال الذين تراوح أعمارهم بين 13 و18 عاماً على موافقة الوالدين قبل استخدام "تشات جي بي تي"، لكن المنصة لا تتخذ خطوات للتحقق من هذه الموافقة في أثناء التسجيل. ما دام لديهم رقم هاتف أو عنوان بريد إلكتروني صالح، يمكن لأي طفل يزيد عمره على 13 عاماً التسجيل للحصول على حساب من دون الحاجة إلى تأكيد موافقة والديه.