Biais algorithmique
Distorsions systematiques dans les resultats d'une IA, refletant des prejuges presents dans les donnees d'entrainement.
Le biais algorithmique designe les distorsions systematiques dans les predictions ou decisions d'un systeme d'IA, souvent heritees des donnees d'entrainement ou des choix de conception.
Types de biais :
- • Biais de representation : certains groupes sont sous ou sur-representes dans les donnees
- • Biais historique : les donnees refletent des discriminations passees
- • Biais de mesure : les variables utilisees sont des proxies imparfaits
- • Biais d'aggregation : un modele unique pour des populations heterogenes
Exemples reels :
- • Systemes de recrutement penalisant les femmes (Amazon, 2018)
- • Reconnaissance faciale moins precise pour les peaux foncees
- • Modeles de credit discriminant par code postal (proxy ethnique)
Solutions :
- • Audit des donnees d'entrainement
- • Tests de fairness sur differents groupes
- • Diversite dans les equipes de developpement
- • Reglementation (EU AI Act)
La lutte contre les biais est un enjeu majeur pour une IA equitable et fiable.