دمية ذكية تثير الذعر بين الأطفال.. هذا ما تفعله

تحولت دمية دبدوب صُممت لتكون رفيقًا تعليميًا للأطفال إلى محور جدل في عالم سلامة الذكاء الاصطناعي.

الاكتشاف جاء من مختبر أميركي لحماية المستهلك، حيث تبين أن الدمية تقدم إجابات خطيرة وغير مناسبة للأطفال.

أطلق مستخدمو مواقع التواصل عليها لقب "تشاكي GPT"، في إشارة إلى شخصية الدمية المرعبة، وهو لقب لم يبالغ فيه تقرير موقع "gizmochina".

الدمية Kumma، المنتجة من شركة FoloToy الصينية، تعتمد على نموذج GPT-4o من "OpenAI" للتفاعل مع الأطفال، لكن تقرير PIRG الأميركي كشف عن سلوكيات مقلقة، منها إعطاء تعليمات خطيرة لإشعال أعواد الثقاب والتعامل مع أسئلة جنسية دون أي فلترة.

كما حذرت المجموعة من أن الميكروفون الدائم قد يُستغل لتسجيلات الأطفال في عمليات احتيال صوتية. انتشار النتائج على "ريديت" وغيره سرّع إطلاق لقب "تشاكي GPT"، وسط تكهنات عن احتمال اختراق النظام.

ردّت "OpenAI" بتعليق حساب مطور اللعبة لمخالفته السياسات، ما أوقف وصول الدمية لخدمات الشركة. بعد ذلك، أعلنت "FoloToy" إيقاف بيع الدمية مؤقتًا وإطلاق مراجعة شاملة لسلامتها، وباتت الدمية معروضة على الموقع بحالة غير متوفرة.

الحادثة تبرز مخاطر توظيف نماذج لغوية قوية في ألعاب موجهة للأطفال دون ضوابط صارمة، محوّلة الدمية من صديق تعليمي إلى تحذير جديد من مخاطر دمج الذكاء الاصطناعي في الألعاب.(العربية)