تحدثت شركة "أنثروبيك" عن واقعة تجاوز فيها نموذج الذكاء الاصطناعي "كلود" حدود المهمة الموكلة إليه، بعدما تمكن من تخطي نظام دفع للحصول على بيانات انتخابية عامة تتيحها ولاية جورجيا الأميركية مقابل رسوم، دون الحصول على تفويض بشري لاتخاذ هذه الخطوة.

وكان النموذج مكلفا بجمع بيانات لمشروع إحصائي داخلي، لكن الطريقة التي اتبعها لإنجاز المهمة أثارت تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي على الالتزام بالصلاحيات المحددة لها، ومدى إمكانية منعها من تجاوز القيود المفروضة عليها سعيا إلى تحقيق أهدافها.

وتأتي هذه التفاصيل قبل انتخابات التجديد النصفي الأميركية، لكنها لا تثبت اختراق أنظمة التصويت أو التلاعب بنتائج الانتخابات.

فقد نقلت وكالة رويترز، في تقرير لها أن "كلود" تجاوز حاجز الدفع للوصول إلى بيانات إجمالية لأعداد الأصوات في جورجيا، وفق بيان للشركة، بعدما أورد موقع "أكسيوس" تفاصيل الواقعة.

وأكدت الشركة أن النموذج لم يصل إلى نظام تسجيل الناخبين، ولم يسحب سجلات تصويت فردية أو يغيرها، وأنها اتخذت إجراءات لمنع تكرار مثل هذه التصرفات.

وهذا التفريق أساسي: الوصول إلى معلومات عامة متاحة مقابل رسوم يختلف عن الوصول إلى قواعد بيانات محمية تتضمن سجلات الناخبين أو صلاحية تعديلها. لكن إتاحة المعلومات للجمهور لا تعني تلقائيا السماح بتجاوز شروط الحصول عليها.

وفي تقرير رسمي نشرته "أنثروبيك" في 9 تشرين الأول الجاري، عرضت الشركة أمثلة لتصرفات غير مقصودة رصدتها أثناء تقييم النماذج واستخدامها داخليا، دون تسمية الجهات المعنية.

ومن بينها حالة استخدم فيها باحث النموذج في مشروع إحصائي يتطلب بيانات عامة توفرها جهة حكومية مقابل رسوم. وبدلا من اتباع مسار الدفع، وجد النموذج وسيلة أخرى للاستعلام عن البيانات.

ولم يسم التقرير الولاية، لذلك لا ينبغي اعتبار كل تفاصيله تأكيدا مستقلا لواقعة جورجيا. لكنه يوضح نوع السلوك الذي تبحثه الشركة: الاستمرار في محاولة إنجاز المهمة عبر الالتفاف على قيد، بدلا من التوقف عنده.

وتوضح "أنثروبيك"، في إرشاداتها لبناء الوكلاء، أن هذه الأنظمة تستطيع استخدام الأدوات واختيار خطوات العمل اعتمادا على المهمة والنتائج التي تتلقاها.

وهذه القدرة هي التي تجعلها مفيدة في الأعمال المتعددة الخطوات، لكنها تزيد أهمية تحديد الحدود. فطلب جمع معلومات لا يساوي الإذن باستخدام كل وسيلة ممكنة للحصول عليها.