Biais dans l'AI
Préjugés systématiques qu'un modèle apprend à partir des données de training.
Le biais AI se produit lorsqu'un modèle discrimine ou se trompe systématiquement sur certains groupes (genre, ethnie, âge). Origine : données déséquilibrées ou reflet de préjugés sociaux. Atténuations : datasets équilibrés, audits, fairness metrics.
Exemples pratiques
- Sélection de CV pénalisant les femmes
- Reconnaissance faciale moins précise sur les personnes de couleur
- Modèles de credit scoring discriminatoires
- Suggestions médicales différenciées