أعلنت شركة غوغل، عن إطلاق جيل جديد من نماذجها للذكاء الاصطناعي "باليجيما 2" (PaliGemma 2) يستطيع "قراءة المشاعر" من ملامح وجوه الأشخاص في الصور.
وقالت جوجل في منشور على مدونتها: "يُنتج PaliGemma 2 أوصافاً دقيقة ذات صلة سياقية للصور، متجاوزاً التعرف البسيط على الأشياء لوصف الأفعال، والمشاعر، والسرد العام للمشهد"، مضيفةً: "يستند "باليجيما 2" إلى مجموعة نماذج Gemma المفتوحة من جوجل، وتحديداً إلى سلسلة "
جيما 2".
لكن التعرف على المشاعر لا يتاح تلقائياً عند إطلاق النموذج، إذ يحتاج PaliGemma 2 إلى تعديلات دقيقة من أجل تفعيل الميزة. ومع ذلك، أعرب خبراء لموقع "TechCrunch" عن قلقهم حول مدى إمكانية توفير هذه التقنية بشكل مفتوح.
أستاذة أخلاقيات البيانات والذكاء الاصطناعي في معهد أكسفورد للإنترنت، ساندرا واتشر، أوضحت أن "هذا الأمر يثير قلقي بشدة. أجد من المقلق افتراض أنه يمكننا قراءة مشاعر الناس. يشبه ذلك طلب النصيحة من كرة سحرية".
وتتمثل العواقب المتوقعة في أن أنظمة اكتشاف المشاعر تميل إلى أن تكون غير موثوقة، وتتأثر بتحيزات مصمميها، ففي دراسة أجراها
معهد ماساتشوستس للتكنولوجيا عام 2020، أظهر باحثون أن نماذج تحليل الوجوه قد تطور تفضيلات غير مقصودة لبعض التعابير مثل الابتسامة.
وأشارت دراسات حديثة إلى أن نماذج تحليل المشاعر تميل إلى تصنيف الوجوه السوداء بأنها تعبير عن مشاعر سلبية أكثر من الوجوه البيضاء.
وأكدت غوغل أنها أجرت "اختبارات موسعة" لتقييم التحيزات الديموغرافية في PaliGemma 2، ووجدت "مستويات منخفضة من سُمية الثقافة واللغة البذيئة" مقارنة بالمقاييس العامة للنماذج المشابهة. ولكن الشركة لم تكشف عن قائمة المعايير التي استخدمتها، ولم توضح أنواع الاختبارات التي أجرتها.
المعيار
الوحيد الذي ذكرته غوغل هو معيار FairFace، المتمثل في مجموعة من صور الوجوه لآلاف الأشخاص، حيث أشارت إلى أن PaliGemma 2 حقق نتائج جيدة خلاله. (الشرق)