Module
Module 2 sur 5Leçon 2 sur 2~16 min

Hallucinations, complaisance, variabilité, les trois pièges à anticiper

Leçon 2 du module « Comment un LLM produit une réponse » de la formation « Comprendre ce que les LLM savent faire, et ce qu’ils ratent ».

Suivre cette leçon : première formation offerteVoir le programme complet

Objectif de la leçon

À la fin de cette leçon, vous serez capable de repérer dans une réponse d'IA les passages exposés aux hallucinations, de reconnaître un comportement complaisant, de tenir compte de la variabilité d'une exécution à l'autre, et de choisir pour chaque cas une vérification qui ne repose pas sur l'avis du modèle lui-même.

Dans quel module

Comment un LLM produit une réponse

D'où vient une réponse d'IA, et pourquoi peut-elle être fausse tout en sonnant juste ?

Leçons du module

  1. Un LLM prédit la suite d'un texte, et c'est ce qui explique presque tout
  2. Hallucinations, complaisance, variabilité, les trois pièges à anticiper (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Comprendre ce que les LLM savent faire, et ce qu’ils ratent

  • Expliquer comment un LLM produit une réponse (tokens, prédiction du suivant, pré-entraînement puis ajustement) et pourquoi une réponse fluide n'est pas une réponse vérifiée.
  • Anticiper les hallucinations, la complaisance, la confiance mal calibrée et la variabilité d'une exécution à l'autre, et choisir la vérification adaptée à chaque cas.
  • Situer ce que le modèle sait (données d'entraînement, date de coupure, couverture inégale) et ce que changent la recherche web, les documents fournis et les connecteurs.
  • Expliquer la fenêtre de contexte comme mémoire de travail (limite, dégradation sur un long contexte, absence de mémoire entre conversations hors fonction dédiée) et en tirer des règles d'usage.
  • Évaluer ce qu'apportent le raisonnement (thinking) et la lecture d'images ou de documents, et ce qu'ils ne garantissent pas.
  • Classer les tâches de son poste en « déléguer / vérifier / garder » selon le coût d'une erreur, la facilité de vérification, les propriétés du modèle en jeu et la valeur de faire soi-même.

Formations liées