أطلقت هيئة تنظيم الإعلام البريطانية "أوفكوم" يوم الاثنين تحقيقًا في منصة إكس التابعة لإيلون ماسك، لفحص ما إذا كانت الصور الجنسية المفبركة باستخدام تقنية التزييف العميق التي ينتجها روبوت الدردشة غروك تنتهك واجب المنصة في حماية المستخدمين في المملكة المتحدة من محتوى غير قانوني.
وقالت الهيئة في بيان إن هناك تقارير مثيرة للقلق تفيد بأن حساب غروك المدعوم بالذكاء الاصطناعي على إكس يُستخدم لإنشاء ومشاركة صور لأشخاص عراة، قد تُصنَّف على أنها إساءة استخدام للصور الحميمة أو مواد إباحية، وأيضًا صور جنسية لأطفال قد تُعد مواد استغلال جنسي للأطفال.
وتأتي الخطوة بعد أن وصف رئيس الوزراء البريطاني كير ستارمر الصور المنتجة بواسطة غروك بأنها "مقززة" و"غير قانونية"، مؤكدًا يوم الخميس أن منصة إكس بحاجة إلى "السيطرة" على الروبوت، مشيرًا إلى دعم الحكومة الكامل لإجراءات أوفكوم.
في بريطانيا، يُعد إنشاء أو مشاركة صور حميمة دون موافقة أصحابها أو مواد استغلال جنسي للأطفال، including الصور الجنسية المولدة بالذكاء الاصطناعي، جريمة. كما تُلزم القوانين المنصات التكنولوجية بمنع المستخدمين البريطانيين من الوصول إلى محتوى غير قانوني، وإزالته فور علمها به.
واجهت منصة إكس انتقادات مشابهة في دول أخرى بسبب هذه الميزة التي قد تنتج صورًا لنساء وقاصرين بملابس كاشفة. وأبلغ المسؤولون الفرنسيون المدعين العامين والهيئات التنظيمية عن المنصة بأن المحتوى "غير قانوني بشكل واضح"، بينما طالبت السلطات الهندية أيضًا بتوضيحات.
وتمت تقييد ميزة غروك في منصة إكس للمستخدمين المشتركين بالدفع فقط، فيما أعلنت المنصة الأسبوع الماضي أنها ستزيل كل المحتوى غير القانوني وتوقف الحسابات المتورطة نهائيًا، موضحة أن أي شخص يستخدم غروك لإنشاء محتوى غير قانوني سيواجه نفس العقوبات كمن نشر المحتوى بنفسه.
ستبحث أوفكوم فيما إذا كانت المنصة قد أخفقت في تقييم المخاطر التي قد يتعرض لها المستخدمون، خصوصًا الأطفال، وما إذا كانت الإجراءات المتخذة كافية. وأضافت الهيئة أنه في حالات عدم الامتثال الخطيرة، يمكنها طلب المحكمة لإلزام مزودي الدفع أو المعلنين بسحب خدماتهم، أو أن تقوم مزودات الإنترنت بحجب الوصول إلى المنصة داخل بريطانيا. (العربية)