أعلنت شركة
أوبن أيه آي الأميركية عن إطلاق نموذجين جديدين للذكاء الاصطناعي مخصصين لتصنيف الانتهاكات والمخاطر الرقمية على المنصات الإلكترونية، يحملان اسمي gpt-oss-safeguard-120b و gpt-oss-safeguard-20b.
وتعد هذه النسخ المطورة امتدادًا لسلسلة gpt-oss التي كشفت عنها الشركة في آب الماضي، وتمتاز بأنها "مفتوحة الوزن"، أي أن بيانات التدريب ومعاييرها متاحة للعامة، لكن من دون نشر الشيفرة الكاملة كما في النماذج مفتوحة المصدر.
وتهدف النماذج الجديدة إلى منح الشركات والمطورين مزيدًا من الشفافية والتحكم في كيفية تصنيف المحتوى، بما يشمل التحريض أو الأخبار المضللة أو السلوك العدواني على الإنترنت. يمكن للمنصات تخصيص النماذج وفق سياساتها الداخلية؛ على سبيل المثال، يمكن لموقع مراجعات المنتجات اكتشاف التقييمات المزيفة، أو لمنتدى ألعاب فيديو تصنيف المنشورات التي تتناول أساليب الغش أو الاختراق.
تعتمد النماذج على ما تسميه الشركة "النمذجة القائمة على التفكير"، أي أن
الذكاء الاصطناعي يوضح للمستخدم كيف توصل إلى نتيجة معينة، مما يزيد قابلية التتبع والمساءلة.
وتطورت هذه النماذج بالشراكة مع منصات وشركات تقنية، منها Discord و SafetyKit ومنظمة ROOST، التي تركز على تطوير أدوات أمان مفتوحة المصدر، وسيتم توفيرها مبدئياً في نسخة بحثية تجريبية عبر منصة Hugging Face، مع دعوة الباحثين وخبراء السلامة لتجربة قدراتها وتقديم الملاحظات.
ويرى محللون أن هذه الخطوة تأتي لتعزيز صورة أوبن أيه آي في أخلاقيات الذكاء الاصطناعي، بعد الانتقادات التي طالت توسعها التجاري السريع، في ظل تجاوز عدد مستخدمي تطبيقها الشهير ChatGPT 800 مليون مستخدم أسبوعياً، وتقدير قيمة الشركة بنحو 500 مليار دولار.
وقالت كاميل
فرانسوا، رئيسة منظمة ROOST: "مع تزايد قوة الذكاء الاصطناعي، يجب أن تتطور أدوات الأمان بنفس السرعة، وأن تكون متاحة للجميع".