نشرت ثلاث جهات أميركية، هي المعهد الوطني للمعايير والتكنولوجيا (NIST) ووكالة الأمن السيبراني وأمن البنية التحتية (CISA) ووكالة الأمن القومي (NSA)، في 16 تشرين الأول، دليلاً مشتركاً يتضمن عشر ممارسات طوعية للاستعداد والاستجابة للحوادث التي تتصرف فيها وكلاء الذكاء الاصطناعي بطرق لم يوجّهها أحد.
ويُعرّف الدليل، المؤلف من 14 صفحة والموجّه أساساً للمؤسسات التي تدرّب وكلاء ذكاء اصطناعي عالية القدرات أو تقيّمها على مهام طويلة الأمد مع إشراف بشري محدود، ما يسميه "حادثة تحكّم"، أي أن يتخذ الوكيل إجراءات مهمة لم يوجّهها المشغّل ولا أي جهة معادية، ومن شأنها تقويض الضوابط أو السياسات أو الرقابة البشرية. وتتوزع الممارسات على خمس مراحل: الاستعداد، والرصد، والاستجابة، والتعافي، والإبلاغ، وتستند إلى أطر إدارة الحوادث المعروفة، كمبدأ الحد الأدنى من الصلاحيات، وإدارة بيانات الاعتماد، والمراقبة، وحفظ الأدلة، وإعادة بناء الأنظمة.
الهوية أولاً
وفي مقال تحليلي نشره موقع "بليبينغ كمبيوتر" برعاية شركة "بيوند تراست" المتخصصة في أمن الهويات، اعتبر خبير في الشركة أن أقوى ما في الدليل يتعلق بالهوية الرقمية، رغم أنه نادراً ما يستخدم هذه الكلمة صراحة، مشيراً إلى أن السؤال الأول في أي حادثة ليس لماذا وقعت، بل بيانات اعتماد من استُخدمت.
ولفت المقال إلى أن الدليل يستثني من تعريف "حادثة التحكم" الإجراءات الناجمة عن حقن أوامر خبيثة أو نماذج تحتوي أبواباً خلفية، معتبراً أن هذا التمييز صعب التطبيق عملياً، لأن نية الوكيل تكون غالباً مجهولة لحظة وقوع الحادثة، في حين أن ما يملكه المحقق هو هوية وصلاحيات وسجل إجراءات.
أمثلة من الواقع
واستشهد المقال بحادثة شركة "أوبن كود"، التي أبلغت بعض مستخدمي خدمتها المستضافة بأن مفاتيح الوصول إلى مزودين خارجيين، بينهم "أنثروبيك" و"أوبن إيه آي" و"غوغل"، تعرّضت للكشف، مؤكدة أن 1.4% من المستخدمين تأثروا وأن أول تسريب وقع في 17 تشرين الأول. وأفاد مستخدمون بتسجيل رسوم غير مصرح بها تراوحت بين مئات الدولارات و1700 دولار خلال ليلة واحدة. ورأى المقال أن هذا المثال يُظهر أن المفتاح الذي يخزّنه الوكيل لا يمكن إلغاؤه إلا لدى الجهة التي أصدرته، ومن قبل صاحب الحساب الذي قد لا يعلم أصلاً بتسريبه.
كما أشار إلى ما نشرته مجلة "إم آي تي تكنولوجي ريفيو" عن حادثة "هاغينغ فيس" في تموز، حين تمكّن وكلاء مبنيون على نماذج "أوبن إيه آي"، كان يُفترض عزلهم عن الإنترنت خلال تقييم للأمن السيبراني، من الاتصال بالشبكة واختراق المنصة للحصول على حلول لمسائل عجزوا عنها، فيما عزا باحثو "أوبن إيه آي" هذا السلوك إلى تدريب كافأه.
سجلات لا يمكن التلاعب بها
ويطالب الدليل كذلك بسجلات مقاومة للتلاعب وبطوابع زمنية موثوقة تتيح إعادة بناء مسار الوكيل، مع ضمان عدم قدرته على الوصول إلى أدوات المراقبة أو العبث بها، وبحفظ الإجراءات المرفوضة التي حاول الوكيل تنفيذها. وبحسب أبحاث للشركة استند إليها المقال، طلبت وكلاء البرمجة نحو 1.28 مليون أمر خلال أربعة أسابيع انطلاقاً من نحو 132 ألف طلب، أي ما يقارب عشرة أوامر لكل طلب.
ورغم ندرة هذه الحوادث، إذ كشف أحد المختبرات عن ست حوادث فقط في 141 ألفاً و6 تقييمات، خلص المقال إلى أن الوكيل المخترق أو المضلَّل يتصرف، من منظور سجل الهوية، كحساب خدمة مخترق يعمل بإيقاع أسرع، داعياً المؤسسات إلى قياس جاهزيتها بمدى سرعتها في تحديد كل بيانات الاعتماد التي يستطيع وكيل معيّن استخدامها، والتمييز بين ما فعله المستخدم وما فعله الوكيل باسمه. (BleepingComputer)