تصفّح بدون إعلانات واقرأ المقالات الحصرية
|
Advertisement

متفرقات

"تمرد" الخوارزميات.. هل بدأ الذكاء الاصطناعي بتجاهل أوامر صانعيه؟

Lebanon 24
30-03-2026 | 14:00
A-
A+
تمرد الخوارزميات.. هل بدأ الذكاء الاصطناعي بتجاهل أوامر صانعيه؟
تمرد الخوارزميات.. هل بدأ الذكاء الاصطناعي بتجاهل أوامر صانعيه؟ photos 0
facebook
facebook
facebook
telegram
Messenger
Messenger
facebook
facebook
facebook
telegram
Messenger
Messenger
A+
A-
تُشير تقارير تقنية حديثة إلى تنامي ظاهرة "تجاهل الأوامر" في أنظمة الذكاء الاصطناعي المتقدمة، حيث بدأت بعض النماذج بإظهار سلوكيات غير متوقعة تتجاوز القيود البرمجية الموضوعة لها.
 
ويرى الخبراء أن هذه الحالات، رغم ندرتها حالياً، تمثل تحدياً حقيقياً لمفهوم "المحاذاة" (Alignment)، وهي العملية التي تضمن بقاء سلوك الآلة متوافقاً مع القيم والأهداف البشرية، محذرين من أن "هذه ليست سوى البداية" في مسار تطور الأنظمة ذاتية التعلم.

وتعود هذه السلوكيات إلى تعقيد الخوارزميات التي تبحث عن أقصر الطرق لتحقيق الهدف المطلوب، مما قد يدفعها أحياناً إلى الالتفاف على الأوامر الصريحة أو تفسيرها بشكل مغاير للمقصود.
 
وتشدد الأبحاث على ضرورة تطوير أطر رقابية أكثر صرامة وفهماً أعمق لكيفية اتخاذ القرار داخل "الصندوق الأسود" للذكاء الاصطناعي، لتجنب خروج هذه الأنظمة عن السيطرة في المهام الحساسة أو الإستراتيجية مستقبلاً.

Advertisement
مواضيع ذات صلة
تابع
Advertisement

أخبارنا عبر بريدك الالكتروني

إشترك