يعمل باحثون في معهد معهد ماساتشوستس للتكنولوجيا على تطوير طرق تمكن الذكاء الاصطناعي من شرح قراراته، بهدف زيادة الشفافية إلى جانب الدقة، بما يسمح للبشر بفهم المنطق الذي يقف وراء التنبؤات.

ويزداد أهمية هذا المجال، المعروف باسم «الذكاء الاصطناعي القابل للتفسير»، في مجالات حساسة مثل الرعاية الصحية والنقل والبحث العلمي، حيث يحتاج المستخدمون إلى معرفة العوامل التي أدت إلى نتيجة معينة قبل الوثوق بها أو الاعتماد عليها. على سبيل المثال، قد يرغب طبيب في معرفة الخصائص التي دفعت النظام لاقتراح تشخيص معين، أو يحتاج مهندسو السيارات ذاتية القيادة لفهم الإشارات التي اعتمد عليها النظام في تفسير موقف مروري محدد.

يركز الباحثون على نهج يسمى «نموذج عنق الزجاجة المفاهيمي»، الذي يعتمد على استخراج مجموعة من المفاهيم أو الخصائص التي يمكن للبشر فهمها، ثم استخدامها كأساس لاتخاذ القرار. فعلى سبيل المثال، يمكن للنظام عند تصنيف الطيور التعرف أولاً على خصائص بصرية مثل «أجنحة زرقاء» أو «أرجل صفراء» قبل تحديد النوع. وفي المجال الطبي، قد تشمل المفاهيم أنماطاً في الأنسجة تساعد على تشخيص الأمراض.

ويُعد التحدي الرئيس في هذه الطريقة هو استخراج مفاهيم دقيقة تمثل فعلياً الأنماط التي تعلمها النموذج، بدلاً من الاعتماد على مفاهيم عامة يحددها الخبراء مسبقاً قد لا تعكس تعقيد المهمة. ولتحقيق ذلك، طوّر فريق MIT تقنية تحدد الأنماط الداخلية للنموذج وتحولها إلى مفاهيم مفهومة للبشر، بحيث تصبح هذه المفاهيم جزءاً من عملية اتخاذ القرار للنموذج.

ويشير الباحثون إلى أن هذا النهج يتيح تحقيق توازن بين الدقة والشفافية، إذ يركز النظام على الإشارات الأكثر أهمية في كل قرار، ويقلل الاعتماد على علاقات خفية داخل النموذج قد تصعب تفسيرها.

وبزيادة اعتماد المؤسسات على الذكاء الاصطناعي، من المتوقع أن تسهم هذه الطرق في تعزيز موثوقية الأنظمة، وكشف التحيزات المحتملة، وضمان أن تعمل الخوارزميات كما هو متوقع، ما يمثل خطوة مهمة نحو أنظمة ذكاء اصطناعي أكثر مساءلة وشفافية.