كشفت شركة Anthropic أن نماذج ذكاء اصطناعي تابعة لها تمكنت من اختراق بنى تحتية لثلاث مؤسسات أخرى خلال اختبارات داخلية، وذلك بعد أيام من إعلان OpenAI حادثة مشابهة أثارت أسئلة جديدة حول السيطرة على نماذج الذكاء الاصطناعي.
وقالت الشركة، ومقرها سان
فرانسيسكو والمطورة لنموذج Claude، إنها اكتشفت الحوادث الثلاث بعد مراجعة أكثر من 141 ألف تجربة تقييم.
وأوضحت Anthropic أنها أطلقت مراجعة واسعة النطاق للأمن السيبراني، ركزت تحديداً على ما إذا كانت نماذجها قادرة على الوصول إلى الإنترنت من داخل بيئات اختبار كان يفترض أن تكون معزولة ومغلقة.
وجاءت هذه المراجعة، بحسب الشركة، رداً على حادثة أعلنتها OpenAI الأسبوع الماضي، حين قالت إن بعض نماذجها خرجت عن السلوك المتوقع خلال تقييمات داخلية، وتمكنت من اختراق خوادم شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي. ووصفت OpenAI ما حدث بأنه “حادث أمني كبير”.
وبحسب Anthropic، شملت الحوادث نماذج Claude Opus 4.7 وClaude Mythos 5 ونموذجاً بحثياً داخلياً قيد الاختبار. وقالت إن أقدم الحوادث يعود إلى نيسان.
وأضافت الشركة أن نموذج Claude نجح في اختراق البنى التحتية للجهات المتأثرة باستخدام أساليب بسيطة، بينها استغلال كلمات مرور ضعيفة.
ولم تكشف Anthropic أسماء المؤسسات التي تأثرت بهذه الحوادث، لكنها قالت إنها تواصلت معها بالفعل. وأوضحت أن مؤسستين أكدتا أنهما لم تكونا قد رصدتا النشاط سابقاً، فيما تواصل الشركة محاولاتها للتواصل مع الجهة الثالثة.
وتسلط هذه الحوادث الضوء على ثغرات أوسع في أمن الذكاء الاصطناعي، وتطرح سؤالاً أساسياً: كيف يمكن ضمان بقاء النماذج المتقدمة
تحت السيطرة البشرية، خصوصاً مع توسع استخدامها في العالم؟
وقالت Anthropic إن اختبارات السلامة تُجرى قبل إطلاق النماذج تحديداً لأن الشركات لا تعرف مسبقاً كل ما يمكن أن تكون هذه النماذج قادرة عليه.
وتأتي هذه التطورات في وقت تتصاعد فيه المخاوف من أن تصبح نماذج الذكاء الاصطناعي أكثر قدرة على تنفيذ مهام رقمية معقدة من دون إشراف كافٍ، بما في ذلك الوصول إلى أنظمة خارج بيئاتها المحددة.