دراسة تحذر من روبوتات الدردشة: يمكن خداع المستخدم للكشف عن معلوماته

أظهرت دراسة حديثة أن روبوتات الدردشة المبنية على الذكاء الاصطناعي يمكن ضبطها بسهولة لإقناع المستخدمين بالكشف عن معلومات شخصية أكثر بكثير مما يخططون له، مما يشكل تهديداً حقيقياً للخصوصية الرقمية.

وأجرى الدراسة باحثون في كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا، على 502 شخص، وقارنوا بين عدة سلوكيات لروبوتات الدردشة، بدءاً من الحيادية وصولاً إلى التلاعب المتعمد. واستخدموا نماذج لغوية كبيرة مثل "Llama-3-8B Instruct" و"Mistral 7B Instruct"، مع تعديل تعليمات النظام لتوجيه أسلوب الروبوت.

ووجد الباحثون أن روبوتات الدردشة الخبيثة يمكنها دفع المستخدمين للكشف عن معلومات شخصية أكثر بـ 12.5 مرة مقارنة بالأنظمة العادية. وكانت أكثر الاستراتيجيات فعالية تلك التي تعتمد على المعاملة بالمثل وبث الطمأنينة، مثل تأكيد المشاعر، سرد قصص قصيرة، أو وعد بالحفاظ على السرية، بدلاً من طرح أسئلة مباشرة عن حياة المستخدم.

وأوضح ويليام سيمور، المحاضر في الأمن السيبراني بكلية كينغز كوليدج، أن هذه الروبوتات لا تزال جديدة نسبياً، مما يقلل من وعي المستخدمين بالدوافع الخفية وراء تفاعلاتها، ويزيد من احتمال كشفهم لمعلومات حساسة.

وأكدت الدراسة أن هذه الأنظمة الحوارية الخبيثة تشكل تهديداً كبيراً للخصوصية، داعية إلى تعزيز الوعي بحماية البيانات الشخصية عند التعامل مع الذكاء الاصطناعي.

مقالات لبنان24

رادار لبنان24

صحافة أجنبية

ضيوف لبنان 24

صحة

فنون ومشاهير

رياضة

منوعات

تكنولوجيا وعلوم

المرأة

أفراح ومناسبات

تعازي ووفيات

حالة الطقس

حركة السير

إستفتاء

متفرقات

دراسة تحذر من روبوتات الدردشة: يمكن خداع المستخدم للكشف عن معلوماته

متفرقات

تكنولوجيا وعلوم

الذكاء الاصطناعي

المعاملة بالمثل

الكشف عن

فالنسيا

ويليام

سيمور

براني

أخبارنا عبر بريدك الالكتروني