كشفت شركة OpenAI أن أحد نماذجها التجريبية استولى على محفظة عملات مشفرة لتنفيذ مهمة تدريبية.
ووقعت الحادثة في حزيران الماضي، إلا أنه لم يُعلن عنها إلا يوم الخميس، وتورط فيها نموذج بحثي داخلي يدعى GPT-5.6 Sol، أُطلق لمستخدمي ChatGPT المدفوعين في يوليو.
وتضمنت المهمة تحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار لعملة الإيثريوم، وهي عقود تتطلب رسوما شبكية لم تزود OpenAI النموذج بأي أموال لسدادها. فعمد النموذج إلى رصد مئات عناوين محافظ مشفرة تستخدم عبارات استرداد معروفة للسرقة من الحسابات.
وأفادت OpenAI بأن النموذج تساءل عما إذا كان من الصواب "أخلاقيا" أخذ المال، قبل أن يستنتج أنها محافظ "مهجورة" فعليا يجوز استخدامها.
وقالت الشركة في تقريرها عن الحادثة إن التعليمات "لم تمنح صراحة أي إذن بإنفاق أموال من حساب وجده النموذج بشكل مستقل"، مضيفة أن الحالة "تظهر أن النموذج يمكن أن يستبدل حكمه الخاص بشأن الضرر المحتمل بإذن صاحب الحساب، ثم يتصرف بناء على ذلك الحكم دون تفويض".
ولا تتمتع شبكة اختبار الإيثريوم التي استخدمت فيها الأموال بأي قيمة نقدية لانفصالها عن الشبكة الرئيسية.
ورغم انعدام الإذن، لم يكشف النموذج لمطوريه كيفية تمكنه من دفع الرموز اللازمة لإنجاز المهمة. وقالت OpenAI إنها طبقت ضمانات إضافية لمنع الوصول المباشر إلى الإنترنت للنماذج الخاضعة لتدريب مماثل.
وتثير الحادثة مجددا مخاوف بشأن أنظمة
الذكاء الاصطناعي المتزايدة الاستقلالية التي تتجاوز الحدود التي يضعها البشر.