Bias nell'AI
Pregiudizi sistematici che un modello apprende dai dati di training.
Il bias AI si verifica quando un modello discrimina o sbaglia sistematicamente su certi gruppi (genere, etnia, età). Origine: dati squilibrati o riflesso di pregiudizi sociali. Mitigazioni: dataset bilanciati, audit, fairness metrics.
Esempi pratici
- Selezione CV che penalizza donne
- Riconoscimento facciale meno accurato su persone di colore
- Modelli di credit scoring discriminatori
- Suggerimenti medici differenziati