Hallucination
Réponse d'une IA générative fausse ou inventée, mais formulée avec assurance : un chiffre, une source, une citation ou un fait qui n'existe pas.
En clair
Un modèle de langage produit ce qui est plausible, pas ce qui est vérifié. Quand il manque d'information, il peut combler le vide avec une réponse crédible : une référence de jurisprudence inexistante, une statistique sans source, une fonction qu'un logiciel n'a pas.
On réduit le risque en donnant des documents de référence, en demandant les sources et en autorisant l'assistant à dire « je ne sais pas ». On ne le supprime pas : toute information qui compte se vérifie avant d'être utilisée.
Un exemple dans une petite entreprise
Un dirigeant demande à un assistant le montant d'une aide publique. La réponse cite un montant précis et un décret. Avant de l'utiliser dans son dossier, il vérifie sur le site officiel : le montant a changé l'an dernier. Il corrige, et ajoute cette vérification à ses habitudes.
À ne pas confondre avec : Biais
Une hallucination est une erreur ponctuelle, une information inventée ; un biais est une tendance systématique, qui fausse les réponses toujours dans le même sens.