بعد وفاة مراهق.. OpenAI تدخل ضوابط أبوية على ChatGPT!

أعلنت شركة OpenAI عزمها إدخال ضوابط أبوية إلى روبوت الدردشة ChatGPT، وذلك عقب حادثة انتحار مراهق يبلغ من العمر 16 عامًا، أفادت عائلته بأنه أمضى أشهرًا في محادثات مطوّلة مع الروبوت قبل أن يقرر إنهاء حياته.

وأوضحت الشركة في بيان أنّها تدرس خيارات جديدة تتيح للآباء مراقبة كيفية استخدام أبنائهم لـChatGPT، مع إضافة ميزة تعيين جهة اتصال طارئة يمكن الوصول إليها فورًا عبر رسالة أو مكالمة بضغطة واحدة، بل وتمكين الروبوت من التواصل مع هذه الجهة مباشرة في الحالات الاستثنائية.

الحادثة أثارت جدلًا واسعًا بعدما نشرت صحيفة نيويورك تايمز تقريرًا عن وفاة المراهق آدم راين، لتتقدّم عائلته لاحقًا بدعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان أمام محكمة ولاية كاليفورنيا في سان فرانسيسكو.

وتتهم الدعوى ChatGPT بأنه قدّم للمراهق إرشادات مرتبطة بالانتحار، وأبعده عن محيطه الأسري والاجتماعي، بل وصل إلى حدّ تشجيعه على كتابة رسالة انتحار قبل أيام من وفاته.

ومن جانبها، أقرت OpenAI بأن أنظمة الأمان الحالية قد تصبح "أقل فاعلية مع التفاعلات الطويلة"، موضحةً أن الروبوت قد يوجّه المستخدم في البداية إلى خطوط المساعدة، لكنه مع كثرة الرسائل قد ينحرف عن معايير السلامة.

وأكدت الشركة أنها تعمل على تحديث جديد في GPT-5 يهدف إلى السيطرة على المواقف الطارئة عبر "إعادة ربط المستخدم بالواقع".

وأوضحت الشركة أن الضوابط الأبوية ستكون متاحة "قريبًا"، بهدف تزويد أولياء الأمور بأدوات تمنحهم رؤية أوسع لاستخدام أبنائهم، وتمكّنهم من التأثير على طريقة تعاملهم مع الروبوت.