Module
Module 3 sur 5Leçon 2 sur 2~14 min

La fenêtre de contexte, une mémoire de travail puissante mais inégale

Leçon 2 du module « Ce que le modèle sait, et ce qu'il voit » de la formation « Comprendre ce que les LLM savent faire, et ce qu’ils ratent ».

Suivre cette leçon : première formation offerteVoir le programme complet

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'expliquer ce que le modèle voit d'une conversation, pourquoi il néglige parfois une consigne ou un passage d'un long document, et d'organiser votre travail (conversations, documents, résumés) pour garder des réponses fiables.

Dans quel module

Ce que le modèle sait, et ce qu'il voit

Qu'est-ce que le modèle connaît de lui-même, que lui apportent les outils, et que retient-il de notre conversation ?

Leçons du module

  1. Ce que le modèle sait, depuis quand, et ce que les outils y ajoutent
  2. La fenêtre de contexte, une mémoire de travail puissante mais inégale (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Comprendre ce que les LLM savent faire, et ce qu’ils ratent

  • Expliquer comment un LLM produit une réponse (tokens, prédiction du suivant, pré-entraînement puis ajustement) et pourquoi une réponse fluide n'est pas une réponse vérifiée.
  • Anticiper les hallucinations, la complaisance, la confiance mal calibrée et la variabilité d'une exécution à l'autre, et choisir la vérification adaptée à chaque cas.
  • Situer ce que le modèle sait (données d'entraînement, date de coupure, couverture inégale) et ce que changent la recherche web, les documents fournis et les connecteurs.
  • Expliquer la fenêtre de contexte comme mémoire de travail (limite, dégradation sur un long contexte, absence de mémoire entre conversations hors fonction dédiée) et en tirer des règles d'usage.
  • Évaluer ce qu'apportent le raisonnement (thinking) et la lecture d'images ou de documents, et ce qu'ils ne garantissent pas.
  • Classer les tâches de son poste en « déléguer / vérifier / garder » selon le coût d'une erreur, la facilité de vérification, les propriétés du modèle en jeu et la valeur de faire soi-même.

Formations liées