Biais
Tendance systématique d'un système d'IA à produire des résultats déséquilibrés ou injustes, souvent héritée des données sur lesquelles il a appris.
En clair
Un modèle reproduit les régularités de ses données d'entraînement, y compris leurs déséquilibres : stéréotypes, publics sous-représentés, vision d'un seul pays. Le biais peut aussi venir de la façon dont la question est posée, ou de l'usage qu'on fait du résultat.
Les biais pèsent surtout quand l'IA aide à décider sur des personnes : recrutement, crédit, notation. Le règlement européen sur l'IA classe d'ailleurs plusieurs de ces usages parmi les systèmes à haut risque.
Un exemple dans une petite entreprise
Une PME demande à un assistant de rédiger une annonce pour un poste de technicien. Le texte s'adresse spontanément à « un homme de terrain ». La responsable corrige la formulation, et ajoute à son prompt : « rédaction neutre, ouverte à tous les profils ».