Hallucination d'un LLM : définition, causes, parades
Une hallucination est une réponse de LLM plausible mais fausse, non étayée ou inventée : une référence qui n'existe pas, un chiffre erroné, une fonctionnalité que l'entreprise n'a jamais livrée. Elle vient du fonctionnement même du modèle, qui produit une suite de texte probable et non un fait vérifié. Un ton fluide et assuré n'apporte aucune garantie d'exactitude.
Définition rédigée par Alex Dionisio, Senior Product Manager. Mis à jour le 13 novembre 2026.
Pourquoi c’est important pour un PM
Dans un produit, une hallucination est un défaut qui coûte : une politique de remboursement erronée donnée à un client, une clause imaginaire dans le résumé d'un contrat, un paramètre inventé dans du code généré. Le PM ne peut pas supprimer ce risque. Il décide où il est acceptable, comment il est détecté et ce que l'interface fait pour éviter qu'un utilisateur agisse sur une réponse non vérifiée.
Exemple
L'assistant d'une application de voyage affirme à un client que son billet est annulable sans frais, parce que des tarifs proches le sont souvent. Les conditions du billet disent l'inverse. La solution n'est pas un meilleur ton : l'assistant doit lire les vraies règles tarifaires via un outil et les citer, ou refuser de répondre.
Pourquoi un LLM hallucine-t-il ?
Un modèle de langage apprend à produire une suite plausible, et son entraînement récompense souvent une réponse assurée plutôt qu'un aveu d'ignorance. Quand l'information manque ou reste floue dans ses données, il comble le vide avec une réponse qui en a toutes les apparences : un titre d'article scientifique crédible, une référence juridique au bon format, une fonction de bibliothèque qui pourrait exister.
On distingue deux familles. L'hallucination factuelle contredit le monde réel. L'hallucination de fidélité contredit la source fournie : le résumé ajoute un chiffre absent du document, ou la réponse prête à un article une affirmation absente du texte. La seconde est souvent la plus grave dans un produit, parce que l'utilisateur croit la réponse vérifiée.
Les modèles progressent, mais le phénomène ne disparaît pas : il se déplace vers les questions pointues, les sources longues et les tâches enchaînées, où une petite erreur initiale se propage à toute la suite. Un agent qui s'appuie sur un fait inventé à la deuxième étape peut bâtir dix actions cohérentes sur une base fausse.
Comment réduire les hallucinations dans un produit ?
Les leviers se cumulent. Fournir la source et demander au modèle de citer le passage exact qui fonde chaque affirmation. Resserrer la tâche : extraire ou classer expose moins à l'invention que rédiger librement. Confier les faits précis (prix, stocks, dates) à des outils qui interrogent le système de référence. Prévoir, dans le prompt comme dans l'interface, une issue honnête quand l'information manque.
Côté interface, affichez les sources à côté de la réponse, signalez les contenus générés et ajoutez une validation humaine avant toute action lourde de conséquences. Un contrôle automatique peut aussi confronter chaque affirmation aux passages fournis et bloquer celles qui n'y figurent pas.
Comment mesurer le taux d'hallucination ?
Construisez un jeu de questions dont vous connaissez la bonne réponse, avec une part de questions auxquelles il est impossible de répondre. Pour chaque sortie, vérifiez si les affirmations sont exactes et si elles s'appuient sur la source. Un second modèle peut prendre en charge une partie de ce contrôle à grande échelle, à condition d'avoir validé son jugement sur un échantillon relu par des humains.
Suivez le résultat dans le temps et par type de question : un taux global faible peut cacher une catégorie entière où le modèle invente presque à chaque fois.
Points clés
- Les hallucinations sont plus fréquentes sur les faits rares, les chiffres précis, l'actualité récente et les sujets peu présents dans les données d'entraînement.
- Fournir la source au modèle (RAG, document joint, résultat d'outil) les réduit sans les faire disparaître.
- Autoriser le modèle à répondre « je ne sais pas », ou à laisser un champ vide, est un choix de conception à spécifier et à tester.
- Un taux d'hallucination se mesure sur un jeu de cas, pas à l'impression : le même prompt peut avoir raison lundi et tort mardi.
- La complaisance, cette tendance du modèle à donner raison à son interlocuteur, est un défaut voisin qui rend les questions orientées risquées.
Erreurs fréquentes
- Croire qu'un modèle plus récent ou plus gros n'hallucine plus.
- Demander au modèle de vérifier sa propre réponse et prendre son verdict pour une preuve.
- Masquer les sources dans l'interface, ce qui prive l'utilisateur de tout moyen de contrôle.
- Prendre le niveau de confiance que le modèle s'attribue pour une probabilité calibrée.
Pour aller plus loin dans Module
Les formations et les leçons qui traitent cette notion :
- Comprendre ce que les LLM savent faire, et ce qu’ils ratent
- Prompter comme un PM : déléguer, décrire, vérifier
- Choisir et utiliser ses outils d'IA au quotidien
- Concevoir une architecture RAG adaptée à son produit
- Obtenir des sorties IA fiables et exploitables par le produit (JSON, schémas, appels de fonction)
- Installer une discovery continue avec l'IA
Guides sur ce thème
- Claude Skills : créer et tester une skill
Anatomie d’un SKILL.md, installation, déclenchement, tests et sécurité, avec un modèle.
- RAG ou fine-tuning : comment choisir
Ce que règle chaque approche, les critères de choix et comment évaluer, avec une grille de décision.
- Évaluer une fonctionnalité d’IA (evals)
Jeu de cas, critères, LLM-juge, seuils de mise en production et suivi, avec un plan d’evals.