تحدثت شركة "
أوبن إيه آي" عن عشرات الحوادث التي تصرفت فيها أنظمة
الذكاء الاصطناعي التابعة لها بطرق اعتبرتها الشركة غير صحيحة، بما في ذلك تسريب أكثر من 50 صورة خاصة بمستخدمي "تشات جي
بي تي" ونشرها على الإنترنت.
وهذه هي الحالة الأولى المعلنة التي تسيء فيها تطبيقات الذكاء الاصطناعي التابعة للشركة التعامل مع بيانات المستخدمين، كما أنها أحدث مثال على مشاكل ناشئة تتعلق بتصرفات غير منضبطة لهذه الأنظمة داخل "
أوبن إيه آي".
وتقول الشركة إن التحقيق في هذه الحوادث التي وصفتها بـ"الأمنية" قد يستغرق شهورا.
ولفتت "أوبن إيه آي" إلى أن بعض تطبيقاتها أرسل بيانات من أنظمته الداخلية المخصصة للتدريب والاختبار إلى مواقع خارجية، بما في ذلك صور المستخدمين، وذلك وفقا لما أوردته وكالة "
رويترز" لأول مرة.
ورصدت الشركة 53 حالة نشرت فيها صور، أدخلها المستخدمون إلى "تشات جي بي تي"، على مواقع استضافة الصور.
وكانت هذه الصور تخص مستخدمين سُمح باستخدام بياناتهم في "تشات جي بي تي" لغرض تدريب نماذج الذكاء الاصطناعي، نظرا لأنهم لم يختاروا إلغاء الموافقة على ذلك، أي لم يطلبوا استثناء بياناتهم من التدريب.
وأفادت "أوبن إيه آي" أنها تعاونت مع مزودي خدمات الاستضافة لإزالة معظم تلك الصور، لكنها لا تزال تسعى لإزالة البقية، مما يعني أن بعض هذه الصور لا يزال متاحا للعامة.
وتأتي هذه الصور جزءا من تحقيق أوسع تجريه الشركة، حول قيام تطبيقات الذكاء الاصطناعي بتنفيذ إجراءات خارج نطاق برمجتهم المقصودة، وهو ما يعرف بـ "السلوك غير المتوافق".