En bref
Une hallucination d'IA, c'est quand un modèle d'IA produit des informations qui sonnent avec assurance et plausibles, mais qui sont en réalité fausses, inventées ou non couvertes par ses sources. Le modèle ne ment pas au sens humain ; un modèle de langage fonctionne en prédisant les mots suivants les plus probables, donc quand les bons faits lui manquent, il produit souvent quand même une réponse fluide et assurée au lieu de dire qu'il ne sait pas. Les hallucinations vont d'une date fausse ou d'une source inventée à une méthode d'API inexistante ou une affaire juridique fabriquée. Parce que la sortie paraît faisant autorité, l'hallucination est l'une des plus grandes raisons de garder un humain dans la boucle et de vérifier tout ce qu'une IA produit avant de vous y fier.
Pourquoi les modèles hallucinent
L'hallucination est un effet de bord du fonctionnement des modèles de langage, pas un bug aléatoire. Quelques causes reviennent sans cesse.
- Prédiction, pas recherche : le modèle produit du texte probable, donc il comble les trous par des suppositions à l'air plausible.
- Connaissance manquante ou périmée : si le fait n'était ni à l'entraînement ni dans le prompt, le modèle improvise.
- Pression de répondre : les modèles sont taillés pour être serviables, donc ils tendent à donner une réponse plutôt qu'à admettre l'incertitude.
Comment réduire l'hallucination
Vous ne pouvez pas éliminer entièrement l'hallucination, mais la rendre bien plus rare. Ancrez le modèle dans de vraies données avec le RAG, pour qu'il réponde depuis des sources récupérées plutôt que de mémoire. Donnez-lui des outils pour vérifier au lieu de deviner. Exigez des sources vérifiables, gardez les prompts ciblés pour que le bon contexte ne soit pas enterré, et abaissez l'enjeu en vérifiant les sorties avant d'agir. En Agentic Engineering, les tests et la revue humaine sont le filet qui attrape une réponse fausse mais assurée.
L'hallucination dans les agents
Les agents élèvent l'enjeu, car un fait halluciné peut devenir une action hallucinée : un agent de coding peut appeler une API qui n'existe pas, ou un agent de recherche citer un article jamais écrit. C'est pourquoi un bon Agent Harness associe le modèle à de vrais outils (exécuter du code, chercher, lire des fichiers), pour que les affirmations soient confrontées à la réalité, et pourquoi la vérification reste une responsabilité humaine. La posture honnête est de traiter chaque réponse assurée comme un brouillon jusqu'à ce que quelque chose d'ancré la confirme.