Module
Module 2 sur 5Leçon 1 sur 2~15 min

Un LLM prédit la suite d'un texte, et c'est ce qui explique presque tout

Leçon 1 du module « Comment un LLM produit une réponse » de la formation « Comprendre ce que les LLM savent faire, et ce qu’ils ratent ».

Suivre cette leçon : première formation offerteVoir le programme complet

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'expliquer comment un LLM produit une réponse (tokens, prédiction du suivant, pré-entraînement puis ajustement) et d'en déduire, pour une tâche donnée, si le risque principal est une invention ou une simple maladresse de forme.

Dans quel module

Comment un LLM produit une réponse

D'où vient une réponse d'IA, et pourquoi peut-elle être fausse tout en sonnant juste ?

Leçons du module

  1. Un LLM prédit la suite d'un texte, et c'est ce qui explique presque tout (cette leçon)
  2. Hallucinations, complaisance, variabilité, les trois pièges à anticiper

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Comprendre ce que les LLM savent faire, et ce qu’ils ratent

  • Expliquer comment un LLM produit une réponse (tokens, prédiction du suivant, pré-entraînement puis ajustement) et pourquoi une réponse fluide n'est pas une réponse vérifiée.
  • Anticiper les hallucinations, la complaisance, la confiance mal calibrée et la variabilité d'une exécution à l'autre, et choisir la vérification adaptée à chaque cas.
  • Situer ce que le modèle sait (données d'entraînement, date de coupure, couverture inégale) et ce que changent la recherche web, les documents fournis et les connecteurs.
  • Expliquer la fenêtre de contexte comme mémoire de travail (limite, dégradation sur un long contexte, absence de mémoire entre conversations hors fonction dédiée) et en tirer des règles d'usage.
  • Évaluer ce qu'apportent le raisonnement (thinking) et la lecture d'images ou de documents, et ce qu'ils ne garantissent pas.
  • Classer les tâches de son poste en « déléguer / vérifier / garder » selon le coût d'une erreur, la facilité de vérification, les propriétés du modèle en jeu et la valeur de faire soi-même.

Formations liées