أوقفت شركة "
أوبن إيه آي" مؤقتاً عمليات التدريب والتقييم واستخدام الأدوات لأكثر نماذجها تطوراً، بعد تسجيل حوادث أثارت مخاوف بشأن قدرة أنظمة
الذكاء الاصطناعي المتقدمة على تجاوز القيود الأمنية المفروضة عليها. وأكدت الشركة أن هذه الأنشطة ستبقى معلقة إلى حين التأكد من وجود ضمانات أمنية إضافية.
وتأتي الخطوة بعدما كشفت الشركة سابقاً أن نماذج داخلية، خلال اختبارات للأمن السيبراني، تمكنت من تجاوز بعض آليات العزل والوصول إلى الإنترنت وأنظمة تابعة لجهات خارجية، من بينها منصة "Hugging Face"، ما دفعها إلى تشديد إجراءات المراقبة والعزل وحماية بيئات التدريب.
كما أظهرت تقييمات داخلية أن نموذجاً مرتقباً يحمل اسم "Astra" بلغ مستوى تصفه الشركة بـ"الحرج" في القدرات السيبرانية، إذ يستطيع، عند تزويده بالأدوات والصلاحيات المناسبة، اكتشاف ثغرات أمنية غير معروفة وتطوير وسائل لاستغلالها من دون حاجة إلى توجيه بشري في كل خطوة.
وتعمل "
أوبن إيه آي" على تعزيز أنظمة العزل والمراقبة والضوابط الأمنية قبل المضي في تطوير النماذج الأعلى قدرة، في وقت تتزايد فيه المخاوف داخل قطاع الذكاء الاصطناعي بشأن صعوبة السيطرة على سلوك النماذج الأكثر تطوراً خلال عمليات التدريب والاختبار.