Bias në AI
Anshmëri sistematike që një model mëson nga të dhënat e trajnimit.
Bias AI ndodh kur një model diskriminon ose gabon në mënyrë sistematike ndaj grupeve të caktuara (gjinia, etnia, mosha). Origjina: të dhëna të pabalancuara ose pasqyrim i paragjykimeve sociale. Zbutja: dataset-e të balancuara, auditime, fairness metrics.
Shembuj praktikë
- Seleksionim CV-sh që penalizon gratë
- Riconoscimento facciale (njohje fytyre) më pak e saktë për njerëzit me ngjyrë
- Modele të credit scoring diskriminuese
- Sugjerime mjekësore të diferencuara