دمية ذكية تثير الذعر بين الأطفال.. هذا ما تفعله

تحولت دمية دبدوب صُممت لتكون رفيقًا تعليميًا للأطفال إلى محور جدل في عالم سلامة الذكاء الاصطناعي.

الاكتشاف جاء من مختبر أميركي لحماية المستهلك، حيث تبين أن الدمية تقدم إجابات خطيرة وغير مناسبة للأطفال.

أطلق مستخدمو مواقع التواصل عليها لقب "تشاكي GPT"، في إشارة إلى شخصية الدمية المرعبة، وهو لقب لم يبالغ فيه تقرير موقع "gizmochina".

الدمية Kumma، المنتجة من شركة FoloToy الصينية، تعتمد على نموذج GPT-4o من "OpenAI" للتفاعل مع الأطفال، لكن تقرير PIRG الأميركي كشف عن سلوكيات مقلقة، منها إعطاء تعليمات خطيرة لإشعال أعواد الثقاب والتعامل مع أسئلة جنسية دون أي فلترة.

كما حذرت المجموعة من أن الميكروفون الدائم قد يُستغل لتسجيلات الأطفال في عمليات احتيال صوتية. انتشار النتائج على "ريديت" وغيره سرّع إطلاق لقب "تشاكي GPT"، وسط تكهنات عن احتمال اختراق النظام.

ردّت "OpenAI" بتعليق حساب مطور اللعبة لمخالفته السياسات، ما أوقف وصول الدمية لخدمات الشركة. بعد ذلك، أعلنت "FoloToy" إيقاف بيع الدمية مؤقتًا وإطلاق مراجعة شاملة لسلامتها، وباتت الدمية معروضة على الموقع بحالة غير متوفرة.

الحادثة تبرز مخاطر توظيف نماذج لغوية قوية في ألعاب موجهة للأطفال دون ضوابط صارمة، محوّلة الدمية من صديق تعليمي إلى تحذير جديد من مخاطر دمج الذكاء الاصطناعي في الألعاب.(العربية)

مقالات لبنان24

رادار لبنان24

صحافة أجنبية

ضيوف لبنان 24

صحة

فنون ومشاهير

رياضة

منوعات

تكنولوجيا وعلوم

المرأة

أفراح ومناسبات

تعازي ووفيات

لبنان

فيديو

خاص

إقتصاد

عربي-دولي

متفرقات

مقالات لبنان24

رادار لبنان24

صحافة أجنبية

ضيوف لبنان 24

صحة

رياضة

فنون ومشاهير

منوعات

تكنولوجيا وعلوم

المرأة

أفراح ومناسبات

صور

تعازي ووفيات

كأس العالم2022

حالة الطقس

حركة السير

إستفتاء

منوعات

دمية ذكية تثير الذعر بين الأطفال.. هذا ما تفعله

منوعات

تكنولوجيا وعلوم

الذكاء الاصطناعي

الصينية

الصين

دميت

عواد

تشاك

ريدي

الدم

أخبارنا عبر بريدك الالكتروني