algorithmic bias

مثال ها:
- الگوریتم های استخدام که به دلیل داده های آموزشی غالباً مردانه، به نفع مردان عمل می کنند و زنان را کمتر قبول می کنند.
- سیستم های تشخیص چهره که در شناسایی چهره های پوست تیره و زنان عملکرد ضعیفی دارند به علت داده های آموزش ناکافی و نامتوازن.
- الگوریتم های امتیازدهی اعتباری که ممکن است به گروه های خاصی به صورت ناعادلانه امتیاز بدتری بدهند.
- نرم افزارهای پیش بینی رفتار مجرمانه که ممکن است بر خلاف عدالت، برخی گروه های نژادی را بیشتر به عنوان مجرم تشخیص دهند.
انواع سوگیری الگوریتمی شامل سوگیری های از پیش موجود ( بازتاب دهنده تعصبات انسانی و اجتماعی ) ، سوگیری های به وجود آمده در حین استفاده در زمینه های جدید، و سوگیری های ناشی از داده های ناقص یا نامناسب است. اصلاح این سوگیری ها برای ساخت سامانه های هوش مصنوعی عادلانه و برابر اهمیت زیادی دارد.