Sesgo en la AI
Prejuicios sistemáticos que un modelo aprende de los datos de entrenamiento.
El sesgo en la AI ocurre cuando un modelo discrimina o comete errores sistemáticos sobre ciertos grupos (género, etnia, edad). Origen: datos desequilibrados o reflejo de prejuicios sociales. Mitigaciones: datasets balanceados, auditorías, fairness metrics.
Ejemplos prácticos
- Selección de CV que penaliza a mujeres
- Reconocimiento facial menos preciso con personas de color
- Modelos de credit scoring discriminatorios
- Sugerencias médicas diferenciadas