AI Bias (Yapay Zekada Yanlılık)
Bir modelin eğitim verilerinden öğrendiği sistematik önyargılar.
AI bias, bir modelin belirli gruplara (cinsiyet, etnik köken, yaş) karşı sistematik olarak ayrımcılık yapması veya hatalı sonuçlar vermesi durumunda ortaya çıkar. Kaynağı: Dengesiz veriler veya toplumsal önyargıların yansımasıdır. Azaltma yöntemleri: Dengeli veri setleri, denetimler (audit) ve fairness metrics (dürüstlük metrikleri).
Pratik örnekler
- Kadın adayları dezavantajlı duruma düşüren CV seçimi
- Siyahi bireylerde daha az doğru çalışan yüz tanıma sistemleri
- Ayrımcı kredi puanlama modelleri
- Farklılaştırılmış tıbbi öneriler