Bias nell'AI
تحيزات منهجية يتعلمها النموذج من بيانات التدريب.
يحدث Bias AI عندما يميز النموذج أو يخطئ بشكل منهجي تجاه مجموعات معينة (الجنس، العرق، العمر). المصدر: بيانات غير متوازنة أو انعكاس للتحيزات الاجتماعية. التخفيف: مجموعات بيانات متوازنة، التدقيق (audit)، ومقاييس Fairness metrics.
أمثلة عملية
- فرز السير الذاتية الذي يميز ضد النساء
- التعرف على الوجه الأقل دقة لأصحاب البشرة الملونة
- نماذج Credit scoring التمييزية
- توصيات طبية متباينة