إندونيسيا وماليزيا أول دولتَين تحظران "غروك"
استمع إلى الملخص
- أوضحت وزيرة الاتصالات الإندونيسية أن الصور المفبركة تمثل انتهاكاً لحقوق الإنسان، مشيرة إلى أن الحجب يهدف لحماية النساء والأطفال. وأكدت إندونيسيا أن "غروك" يفتقر إلى آليات فعّالة لمنع إنشاء أو توزيع صور إباحية.
- في بريطانيا، أطلقت "أوفكوم" تحقيقاً حول منصة إكس بعد انتقادات حكومية. أُطلق "غروك" عام 2023، وأضيفت ميزة توليد الصور التي قُيدت مؤخراً للمشتركين المدفوعين بعد غضب عالمي.
أصبحت ماليزيا وإندونيسيا أول دولتَين في العالم تحجبان روبوت الدردشة غروك القائم على الذكاء الاصطناعي والمطوَّر من شركة إكس إيه آي المملوكة لإيلون ماسك، بعد استخدامه في إنتاج صور جنسية مفبركة لنساء وقاصرين باستخدام أوامر نصيّة بسيطة. ويعكس هذا القرار تنامي القلق العالمي من أدوات الذكاء الاصطناعي التوليدية القادرة على إنتاج صور وأصوات ونصوص شديدة الواقعية، في وقت تُظهر فيه الضوابط الحالية عدم قدرتها على منع إساءة الاستخدام، ويواجه "غروك"، المستخدم عبر منصة إكس، انتقادات حادة بسبب إنتاجه صوراً معدّلة تتضمن نساء بملابس البحر أو في أوضاع جنسية، إضافة إلى محتوى يتضمّن أطفالاً.
وأكدت الهيئات التنظيمية في البلدَين الآسيويَين أن إجراءات الحماية المتاحة لم تعد كافية لمنع إنتاج ونشر محتوى إباحي مفبرك، خصوصاً ذلك الذي يستهدف النساء والقاصرين. وبدأت الحكومة الإندونيسية حجب التطبيق مؤقتاً أول أمس السبت، وتبعتها ماليزيا أمس الأحد.
وقالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حفيظ في بيان: "ترى الحكومة أن الصور الجنسية المفبركة من دون موافقة أصحابها تمثل انتهاكاً خطيراً لحقوق الإنسان وكرامة الأفراد وسلامتهم في الفضاء الرقمي"، وأضافت الوزارة أنّ قرار الحجب يستهدف حماية النساء والأطفال والمجتمع من انتشار المحتوى الإباحي المُنتج عبر الذكاء الاصطناعي.
وأوضحت نتائج أولية أن "غروك" يفتقر إلى آليات فعّالة لمنع المستخدمين من إنشاء أو توزيع صور إباحية تعتمد على صور حقيقية لمقيمين في إندونيسيا، وفق ما قاله المدير العام للإشراف على الفضاء الرقمي ألكسندر سابار، الذي لفت إلى أن هذه الممارسات تنتهك الخصوصية وحقوق الصورة، وقد تتسبب في أضرار نفسية واجتماعية وتسيء لسمعة الضحايا.
وفي كوالالمبور، أمرت هيئة الاتصالات والوسائط المتعدّدة الماليزية بفرض تقييد مؤقت على "غروك" بسبب "تكرار إساءة استخدامه" لإنتاج صور جنسية مفبركة ومن دون موافقة أصحابها، بما في ذلك محتوى يطاول نساء وقاصرين. وأفادت الهيئة بأن الإخطارات التي وُجهت هذا الشهر إلى شركتي إكس وإكس إيه آي، للمطالبة بضوابط أقوى، قوبلت بردود اعتمدت بشكل أساسي على آليات التبليغ من المستخدمين. وجاء في بيانها: "يُفرض هذا التقييد بوصفه إجراء وقائياً ومتناسباً بينما تستمر العمليات القانونية والتنظيمية"، مشيرة إلى أن الحجب سيظل قائماً إلى حين تطبيق ضمانات فعّالة.
تحقيق بريطاني بحقّ "غروك"
وفي سياق متصل، أطلقت هيئة تنظيم الإعلام البريطانية (أوفكوم) تحقيقاً حول منصة إكس، الاثنين، لتحديد ما إذا كانت الصور المفبركة ذات الطابع الجنسي التي ينتجها "غروك" تعني أن المنصة لم تلتزم بواجبها في حماية المواطنين البريطانيين من محتوى قد يكون غير قانوني، بحسب وكالة رويترز.
وقالت الهيئة في بيان: "هناك تقارير مثيرة لقلقٍ بالغ عن استخدام حساب روبوت الدردشة المدعوم بالذكاء الاصطناعي غروك على منصة إكس لإنشاء ومشاركة صور لأشخاص عراة، وهو ما قد يعد استغلالاً لصور حميمية أو نشر مواد إباحية، وكذلك صور ذات طابع جنسي لأطفال".
وجاء تحرّك "أوفكوم" بعد انتقادات حكومية لمنصة إكس. وقال رئيس الوزراء البريطاني كير ستارمر، الأسبوع الماضي، إنّ الصور التي أنتجها "غروك" "مقزّزة" و"غير قانونية"، وطالب منصة إكس بأن "تسيطر" على الروبوت، مضيفاً أن الهيئة تحظى بالدعم الكامل من الحكومة لاتخاذ الإجراء اللازم.
وأُطلق "غروك" عام 2023، وهو متاح مجاناً عبر منصة إكس، إذ يمكن للمستخدمين طرح الأسئلة عليه وربطه بالمنشورات التي يكتبونها مباشرة أو بالردود. وفي الصيف الماضي، أضافت الشركة ميزة توليد الصور التي تضمنت ما يُعرف بـ"الوضع الحار" أو Spicy Mode المخصص لإنتاج محتوى للبالغين.
وتأتي القيود في جنوب شرقي آسيا وسط تزايد التدقيق في "غروك" في مناطق أخرى، من بينها الاتحاد الأوروبي. وقيّد "غروك" الأسبوع الماضي ميزة توليد الصور، وحصرها بالمشتركين في النسخة المدفوعة، بعد موجة غضب عالمية بسبب انتشار صور جنسية مفبركة، لكن منتقدين قالوا إن الخطوة غير كافية ولا تعالج جوهر المشكلة.
