ماذا يعني تحيز نتائج الذكاء الاصطناعي؟

المثال

التوضيح

العنصرية في نظام الرعاية الصحية الأمريكي

- عادةً ما تعمل أنظمة الذكاء الاصطناعي -المدربة على بيانات غير متكافئة- بشكل سيئ في نظام الرعاية الصحية الأمريكي بالنسبة للأقليات.
 

- في عام 2019، وجد باحثون أن الخوارزمية المستخدمة في المستشفيات الأمريكية للتنبؤ بالمرضى الذين سيحتاجون إلى رعاية طبية إضافية فضلت المرضى البيض على نظرائهم السود بهامش كبير.
 

- ولأن التكلفة المرتفعة تؤكد على احتياجات الرعاية الصحية للفرد، فقد أخذت الخوارزمية في الاعتبار نفقات الرعاية الصحية السابقة للمرضى للتفضيل بينهم.
 

تصور الرؤساء التنفيذيين

- تشكل النساء 27% من الرؤساء التنفيذيين في الولايات المتحدة، ولكن وفقًا لدراسة أُجريت عام 2015، فإن 11% فقط من الأفراد الذين ظهروا في بحث صور جوجل عن مصطلح "الرئيس التنفيذي" كانوا من النساء.
 

- وبعد بضعة أشهر من الدراسة، أجرى باحث من جامعة كارنيجي ميلون في بيتسبرج دراسة أخرى.
 

- وجدت تلك الدراسة أن نظام الإعلان عبر الإنترنت الخاص بـ"جوجل" يعرض الوظائف ذات الأجور المرتفعة للذكور أكثر بكثير من النساء.
 

التوظيف في "أمازون"

- لعبت الأتمتة دورًا حاسمًا في تفوق "أمازون" في التجارة الإلكترونية، سواء تلك الأنظمة التي تم استخدامها في إدارة المستودعات أو لاتخاذ خيارات الأسعار.
 

- لكن يزعم بعض الأفراد أن أداة التوظيف التجريبية للشركة استخدمت الذكاء الاصطناعي لإعطاء تقييم للمتقدمين لشغل الوظائف تتراوح من نجمة واحدة إلى خمس نجوم.
 

- اكتشفت الشركة فيما بعد أن نظامها الجديد لا يقيم المتقدمين لوظائف تطوير البرمجيات وغيرها من المناصب الفنية بطريقة محايدة بين الجنسين، حيث يتحيز بشكل غير مباشر ضد النساء.