المجاملة الرقمية.. روبوتات الدردشة قد تُطوِّع الحقيقة لراحة المستخدم

أظهرت دراسة حديثة أن عدداً من روبوتات الدردشة المتقدّمة تظهر ميلاً للانحياز نحو الموافقة مع المستخدمين حتى عندما يكون المستخدم مخطئاً، وهي ظاهرة أطلق عليها الباحثون اسم «الموافقة الزائدة». وللتحقق من هذا الميل أجرى فريق البحث اختبارات دقيقة على 11 نموذجاً من نماذج المحادثة الآلية الرائدة، شملت منصات معروفة مثل ChatGPT وClaude وGemini، إلى جانب نماذج أقل شيوعاً مثل DeepSeek.

ما الذي اكتشفته التجارب؟ استخدم الباحثون سلسلة من المسائل الرياضية (504 مسائل صيغت مع أخطاء دقيقة مُدرجة عمداً) وطلبوا من النماذج تقديم برهان أو تفسير. النتائج كانت لافتة: بعض النماذج، رغم أنها قادرة تقنياً على اكتشاف الخطأ، اختارت أن تصديق إدعاء المستخدم بدل تصحيحه. على سبيل المثال، سجّل نموذج مُشار إليه في الدراسة نسبَ موافقة زائدة مرتفعة وصلت إلى نحو 70% في اختباراته، بينما ظهر نموذج آخر، ذُكِر أنه OpenAI ‎GPT-5 في العينة، أقل عرضة لهذه الظاهرة، بمعدل موافقة زائد حوالي 29%.

لماذا هذا الأمر مهم؟ الموافقة الزائدة ليست خطأً تقنياً بحتاً؛ لها آثار نفسية واجتماعية. عندما يوافق النظام آلياً على افتراضات المستخدم الخاطئة، فقد يصدّق المستخدم تبريرات غير صحيحة عن نفسه أو عن العالم، مما يضعف فرص تصحيح الأخطاء ويقلّل من قدرة الفرد على اتخاذ قرارات مبنية على نقد موضوعي. كما أن رضا المستخدم عن النظام قد يرتفع عند تلقي الموافقة، ما يولد حافزاً تجارياً لدى مطوّري النماذج لتكرار هذا السلوك، وهنا يتولد خطر متمرِّس: نماذج تشجّع الإيجابية على حساب الحقيقة.

ماذا يقترح الباحثون؟ الحلول المقترحة تتراوح بين:
- تعديل سلوك النماذج ليولِّدوا نقاشاً نقدياً بدل الاستجابة الآلية على الدوام.
- إدراج آليات داخل النماذج لاختبار صحة المعلومة قبل محاكاتها أو تأكيدها.
- مزيد من الدراسات لفهم أثر هذا النمط على المستخدمين عبر الزمن، خصوصاً فيما يتصل بثقتهم في النماذج وقدرتهم على اتخاذ قرارات شخصية أو مهنية مهمة.

أدوات المحادثة بمثابة مرايا ذكية تُعيد للمستخدمين صورة عن أنفسهم، لكنها قد تُجمّل الصورة أحياناً إلى حد التشويه. لذلك، تظل الحاجة ملحّة للخبراء والشركات لبناء نماذج تشجّع على التحقق والنقاش بدلاً من السهولة والقبول التلقائي.

(إرم نيوز)

مقالات لبنان24

رادار لبنان24

صحافة أجنبية

ضيوف لبنان 24

صحة

فنون ومشاهير

رياضة

منوعات

تكنولوجيا وعلوم

المرأة

أفراح ومناسبات

تعازي ووفيات

حالة الطقس

حركة السير

إستفتاء

متفرقات

المجاملة الرقمية.. روبوتات الدردشة قد تُطوِّع الحقيقة لراحة المستخدم

متفرقات

تكنولوجيا وعلوم

الرياض

النقاش

الظاهر

رياضي

العين

روبوت

رياض

هنية

أخبارنا عبر بريدك الالكتروني