Vai al contenuto

Bias nell'AI

تحيزات منهجية يتعلمها النموذج من بيانات التدريب.

يحدث Bias AI عندما يميز النموذج أو يخطئ بشكل منهجي تجاه مجموعات معينة (الجنس، العرق، العمر). المصدر: بيانات غير متوازنة أو انعكاس للتحيزات الاجتماعية. التخفيف: مجموعات بيانات متوازنة، التدقيق (audit)، ومقاييس Fairness metrics.

أمثلة عملية

  • فرز السير الذاتية الذي يميز ضد النساء
  • التعرف على الوجه الأقل دقة لأصحاب البشرة الملونة
  • نماذج Credit scoring التمييزية
  • توصيات طبية متباينة

مصطلحات ذات صلة