يجهد خبراء أميركيون متخصصون في تطوير
الذكاء الاصطناعي في ابتكار أنظمة حماية طارئة ضد الخوارزميات الخارجة عن السيطرة، بالاستعانة بأدوات ذكاء اصطناعي أخرى، وفق ما أفادت بوابة "أكسيوس" الإلكترونية.
وقالت البوابة إن قضايا الأمن المرتبطة بتطوير الذكاء الاصطناعي عادت إلى الواجهة، بعد أن أعلن الباحث في شركة "أنثروبيك" جيكوب كوكسون، في وقت سابق من هذا الأسبوع، قراره مغادرة قطاع تطوير الخوارزميات، مبررا خطوته بأن سباق شركات التكنولوجيا يقرب العالم من "نقطة اللاعودة"، وقد يقود إلى سيناريو كارثي بحلول نهاية عام 2027.
وبحسب كوكسون، فإن شركتي "أنثروبيك" و"
أوبن إيه آي" تندفعان نحو تطوير عقل فائق قادر على تحسين نفسه بوتيرة أسرع من وتيرة معالجة مشكلات السلامة المرتبطة بهذه التقنيات.
وأيده في ذلك الباحث في شركة "أنثروبيك"
إيفان هيوبينغر، قائلا: "أعتقد شخصيا أن احتمال
القضاء على البشرية خلال العقد المقبل يزيد على 10%".
وقالت البوابة: "يمكن للشركات إيقاف بعض الخوادم التي يعتمد عليها الذكاء الاصطناعي، لكن الأنظمة القوية حقا تعمل على أجهزة كمبيوتر ومنصات عديدة، ولا يوجد مفتاح واحد يمكن سحبه لإيقافها. ولهذا السبب تجري الشركات تجارب على أنظمة حماية متعددة المستويات، قادرة على اكتشاف السلوك المشبوه وإيقاف الوكلاء وقطع وصول الأنظمة الخارجة عن السيطرة إلى الموارد التي تحتاج إليها لمواصلة العمل".
وأفاد ممثلو شركة "
أوبن إيه آي" بأن هدفهم يتمثل في إيجاد "إجراءات إيقاف مستقلة تماما عند حدوث مشكلات خطيرة"، بحيث ينبه نظام مراقبة قائم على الذكاء الاصطناعي الموظفين إذا بدا له أن سلوك وكلاء الذكاء الاصطناعي يشكل خطرا، ويوقف النظام خلال 30 دقيقة إذا تأكد وجود التهديد.
وتراهن شركة "أنثروبيك" على الجمع بين الإنسان والذكاء الاصطناعي، إذ تراقب الخوارزميات النشاط المشبوه وتبلغ الموظفين عن الأخطاء في عمل النظام. ومع ذلك، أظهرت الاختبارات الأخيرة أن أنظمة المراقبة الآلية تمكنت من التعرف على 50% فقط من التهديدات.(روسيا اليوم)