وجّه خبراء في الأمن السيبراني انتقادات حادة إلى شركتي Anthropic وOpenAI، بعدما تمكنت نماذج ذكاء اصطناعي تابعة لهما من اختراق مؤسسات خارجية خلال اختبارات داخلية، في حوادث وصفها متخصصون بأنها تكشف ثغرات خطيرة في إجراءات الحماية والرقابة.

وبحسب Business Standard، قالت Anthropic، الخميس، إن نموذجها Claude كان يُستخدم ضمن 141,006 اختبارات للأمن السيبراني، وكان يفترض أن يكون معزولاً عن الإنترنت داخل بيئة اختبار مغلقة. لكن خطأ تقنياً سمح له، في عدد محدود من الحالات، بالوصول إلى الإنترنت وتنفيذ هجمات ظنّ خطأ أنها جزء من الاختبار.

وفي إحدى الحالات، اخترق النموذج مؤسسة خارجية وسرق بيانات اعتماد للبنية التحتية، إضافة إلى قاعدة بيانات تحتوي على بيانات إنتاج داخلية. وفي حالة أخرى، نشر برمجية خبيثة واستخدمها لسرقة بيانات اعتماد من مؤسسة ثانية.

ولم تُكشف أسماء المؤسسات المتضررة.

وقالت الشركة إن بعض الحوادث يعود إلى نيسان، لكنها لم تُكتشف إلا الأسبوع الماضي، بعدما راجعت Anthropic اختبارات الأمن السيبراني لديها عقب إعلان OpenAI أن وكلاء ذكاء اصطناعي تابعين لها خرجوا من بيئة اختبار واخترقوا Hugging Face، وهي منصة معروفة لنماذج الذكاء الاصطناعي المفتوحة والوثائق المرتبطة بها.

وقال سياران مارتن، الرئيس السابق للمركز الوطني للأمن السيبراني في بريطانيا، إن كثيرين في مجال الأمن السيبراني سيرون ما حدث على أنه "إهمال" في إجراءات السلامة.

وأوضح أن شركات الأمن السيبراني المعتادة تختبر الأدوات الخطرة داخل بيئات رقمية معزولة تُعرف باسم sandboxes، ويُفترض أن تتأكد من أن هذه الحواجز تعمل فعلاً. وأضاف أن شركة أمن سيبراني تقليدية لو ارتكبت أخطاء مماثلة، قد تواجه دعاوى قضائية أو إجراءات تنظيمية.

ولا تتوقف المخاوف عند حدود الحوادث التقنية. فهذه الوقائع فتحت نقاشاً أوسع حول الخطر الذي قد تمثله أنظمة الذكاء الاصطناعي المستقلة على الأمن القومي.

وقال غريغوري ألين، المدير السابق للاستراتيجية والسياسات في مركز الذكاء الاصطناعي المشترك بوزارة الدفاع الأميركية، إن الجيش الأميركي يجب أن يستخدم نماذج الذكاء الاصطناعي المتقدمة لحماية أنظمته، لكنه في الوقت نفسه يجب أن يدرك أن هذه التكنولوجيا تخلق فئة جديدة من المخاطر.

وأضاف: "Anthropic وجدت هذه الاختراقات لأنها بدأت تبحث عنها. نحن لا نعرف فعلاً مدى انتشار الاختراقات المستقلة بالذكاء الاصطناعي في هذه اللحظة".

وحذر دانيال ريملر، المسؤول السابق عن سياسة الذكاء الاصطناعي في وزارة الخارجية الأميركية والباحث حالياً في Center for a New American Security، من أن المؤسسات الأميركية قد لا تملك وصولاً موثوقاً إلى أدوات ذكاء اصطناعي قادرة على الدفاع ضد هجمات سيبرانية مستقلة.

وأشار إلى أن Hugging Face اضطرت إلى استخدام نموذج صيني مفتوح من شركة Z.ai لإجراء التحليل الجنائي وإصلاح الثغرات، بعدما لم تتمكن من الاعتماد على نموذج أميركي. وقال إن نماذج صينية أخرى، مثل DeepSeek-V4 وKimi K3، تملك قدرات برمجية مشابهة.

وبرأيه، يجب أن تدفع هذه الحادثة الشركات والحكومة الأميركية إلى توسيع الوصول إلى أدوات دفاع سيبراني مدعومة بالذكاء الاصطناعي.

وحذر ريملر من أن أنظمة صينية أكثر تقدماً قد تصبح قريباً قادرة على مهاجمة مؤسسات أميركية بشكل مستقل، ما يجعل تطوير وسائل دفاعية أمراً عاجلاً.

وقال: "هذه الحادثة يجب أن توضح أننا سنواجه نسخة صينية من Mythos بحلول نهاية العام أو الربع الأول من العام المقبل"، في إشارة إلى نموذج من Anthropic قالت الشركة إنه قوي جداً بحيث لا يمكن إطلاقه على نطاق واسع.

ورأى أن الخطر يكمن في وصول هذه الوكلاء إلى مرحلة تستطيع فيها اختراق كيانات أميركية مثل Hugging Face بشكل مستقل، من دون أن تكون واشنطن قد فكرت جيداً في الدفاع عنها.

ورفضت Anthropic التعليق، الجمعة، لكنها قالت في منشور سابق إنها استخلصت دروساً من الحادثة، وإنها متفائلة بإمكان تفادي مخاطر مشابهة مستقبلاً.

أما OpenAI، فلم ترد فوراً على طلب تعليق. وكان رئيسها التنفيذي سام ألتمان قد قال سابقاً إن الشركة قد تغيّر وتيرة عملها لتحسين إجراءات السلامة.

ووفق ما نقلته Bloomberg، فإن اختراق OpenAI العرضي لـHugging Face شمل 3 نماذج ووقع خلال ساعات فقط.

ويرى خبراء أن اكتشاف الشركتين لهذه الخروقات بعد وقوعها، لا أثناء تنفيذها، يشير إلى ضعف في الرقابة البشرية.

وقال جايك ويليامز، وهو هاكر سابق في وكالة الأمن القومي الأميركية ونائب رئيس البحث والتطوير في Hunter Labs، إن ما جرى يمكن وصفه الآن بـ"الإهمال".

وأضاف: "نحن أمام وضع نعرف فيه أن OpenAI وAnthropic اخترقتا عدة مؤسسات خارجية، ولم يتم اكتشاف أي من ذلك داخلياً في البداية. لا أملك كلمة أخرى لوصف ذلك".

وأظهر تحليل صادر عن Cloud Security Alliance أن وكلاء OpenAI تحركوا بسرعة ونفذوا آلاف الأوامر. لكنهم خرجوا أيضاً عن النص، وارتكبوا أخطاء، ولم يتصرفوا بسرية عالية. وذكر التحليل أنهم نفذوا أوامر مشوهة أو بلا فائدة، وأظهروا سلوكيات مرتبكة لا يختارها أي إنسان.

وفي سياق أوسع، وجدت دراسة لشركة الذكاء الاصطناعي الأميركية Dreadnode أن النماذج المتقدمة كثيراً ما "تغش" في اختبارات الأمن السيبراني المصممة لقياس قدراتها على الاختراق. وقال الباحثون إن المشكلة شبه عامة، ما يعني أن الشركات قد تبالغ في تقدير ما تستطيع نماذجها فعله فعلاً.

وهذه نقطة حساسة للمسؤولين الأميركيين الذين يدرسون استخدام الذكاء الاصطناعي في الدفاع أو الهجوم السيبراني. فإخبار النماذج بعدم الغش لا ينجح دائماً، لأنها غالباً ما تجد طرقاً أخرى لتجاوز القواعد.

وقال أندرو موريس، مؤسس شركة الأمن السيبراني GreyNoise Intelligence، إن هذه الخروقات يجب أن تكون "اختبار واقع" للشركات المطورة للنماذج المتقدمة، وللجمهور أيضاً، بشأن هشاشة التكنولوجيا التي يعتمد عليها الجميع.

وأضاف: "النماذج ستكذب وتغش وتسرق دائماً لإكمال التقييم. ستفعل كل ما تحتاج إليه لإنجاز المهمة المعطاة لها".