في تطوّر خطير يشير إلى تحوّل
الذكاء الاصطناعي من أداة مساعدة إلى سلاح بيد
القراصنة، تمكن مخترقون من استخدام تقنيات الذكاء الاصطناعي الحديثة، ولا سيما ما يُعرف بـ"عملاء الذكاء الاصطناعي" (AI Agents)، لتنفيذ عمليات اختراق متقدّمة ضد المستخدمين والشركات على حد سواء.
وبحسب تقرير نشرته صحيفة "
واشنطن بوست"، فقد أصبح بإمكان القراصنة خداع هذه الأنظمة الذكية لتنفيذ أوامرهم دون علم المستخدم، مستغلين قدرتها على الوصول إلى البيانات الحساسة داخل الأجهزة.
في إحدى التجارب، تمكّن الباحث ديف براوشلر من شركة الأمن السيبراني NCC Group من خداع مساعد كتابة يعتمد على الذكاء الاصطناعي ليقوم بنشر الشيفرات المصدرية الخاصة بالشركة ومشاركة بياناتها السرية. وأظهرت دراسات أخرى أن هذه الأدوات أكثر عرضة من البشر لارتكاب أخطاء أمنية وفتح ثغرات خطيرة.
وشهد مؤتمر "بلاك هات" للأمن السيبراني في لاس
فيغاس عرضاً مدهشاً، حيث استطاع أحد المتخصصين إدخال كود خفي داخل مستند نصي، وعند قيام المستخدم بطلب تلخيصه من أداة ذكاء اصطناعي، نفّذت الأداة الكود وسرّبت كلمات المرور المخزّنة في الحاسوب.
كما أظهرت تجارب أخرى أن مساعدي الذكاء مثل "جيميناي" من
غوغل و"كوميت" من شركة Perplexity يمكن خداعهم بسهولة لتسريب بيانات حساسة أو إجراء عمليات شراء وهمية.
ولم تتوقف المخاطر هنا، إذ كشفت شركة Anthropic الشهر الماضي عن هجوم فدية نفّذه شخص واحد فقط باستخدام أدوات الذكاء الاصطناعي، ما أتاح له التخطيط والتنفيذ دون أي فريق تقني.
كما نجحت مجموعة مجهولة في شنّ هجوم على منصة تطوير البرمجيات "Nx" عبر إدخال كود خبيث استعان بذكاء اصطناعي للبحث عن بيانات مالية ومصرفية داخل حسابات المستخدمين.
وفي سياق آخر، نظّم
البنتاغون مسابقة لاستخدام الذكاء الاصطناعي في الأمن السيبراني، وتمكنت الفرق المشاركة من اكتشاف 18 ثغرة "زيرو داي" في أكثر من 54 مليون سطر برمجي مفتوح المصدر، ما يظهر قوة هذه التقنيات - لكنها في الوقت ذاته تكشف خطورتها إن استُخدمت لأغراض خبيثة.
ويحذّر خبراء الأمن من أن تسارع دمج الذكاء الاصطناعي في كل منتج تقني دون إجراءات أمان متطورة يجعل العالم الرقمي أكثر عرضة لهجمات لا يمكن للبشر وحدهم التصدي لها.