Aller au contenu
Module
IA

Fenêtre de contexte : ce qu'un LLM lit d'un coup

On appelle fenêtre de contexte la quantité maximale de texte, comptée en tokens, qu'un modèle de langage peut prendre en compte en une seule requête : instructions, historique de conversation, documents et sa propre réponse compris. Les tokens sont des morceaux de texte ; en français, un mot en représente souvent un peu plus d'un. Ce qui dépasse la fenêtre est invisible pour le modèle le temps de cette requête.

Définition rédigée par Alex Dionisio, Senior Product Manager. Mis à jour le 13 novembre 2026.

Pourquoi c’est important pour un PM

La fenêtre de contexte conditionne de nombreux choix produit : ce dont un assistant se souvient d'une conversation, la possibilité d'analyser un long contrat en une passe, le coût et la durée de chaque requête. Une grande fenêtre ne dispense pas de sélectionner, car la qualité a tendance à baisser quand l'information utile est noyée dans une entrée très longue.

Exemple

Un assistant juridique accepte un contrat de 300 pages en une requête, mais passe à côté d'une clause enfouie page 180. L'équipe revoit la conception : le contrat est découpé par section, l'assistant récupère les sections utiles à chaque question et cite la page de chaque clause qu'il mentionne.

Que trouve-t-on dans la fenêtre lors d'un appel ?

La fenêtre se remplit de plusieurs couches : le prompt système, la description des outils disponibles, l'historique de la conversation, les documents ou extraits ajoutés, les résultats d'outils, puis la réponse en cours d'écriture. La limite porte sur le total. Dans un agent qui multiplie les appels d'outils, ce sont souvent ces résultats qui occupent le plus de place.

La taille se compte en tokens, pas en mots ni en pages, et la correspondance entre les deux dépend de la langue et du tokenizer : un même texte peut consommer davantage de tokens en français qu'en anglais. Une estimation faite sur un document anglais ne vaut donc pas forcément pour sa version française.

Grande fenêtre ou RAG : que choisir ?

Envoyer un document entier a des atouts : rien ne se perd au découpage, et le modèle voit les liens entre les parties. C'est souvent le bon choix pour un document unique de taille raisonnable, comme une transcription d'entretien ou un cahier des charges. Le RAG prend l'avantage quand le corpus dépasse la fenêtre, change souvent, mélange des droits d'accès différents, ou quand le coût par requête compte.

Les deux approches se combinent : la récupération désigne quelques documents pertinents, que l'on transmet ensuite en entier plutôt qu'en petits extraits. Cette combinaison offre souvent le meilleur des deux : un tri rapide, puis une lecture complète des pièces retenues.

Comment gérer une conversation qui s'allonge ?

Chaque technique a son compromis. Couper l'historique en gardant les derniers échanges est simple, mais fait oublier le début. Résumer les anciens échanges préserve l'essentiel au prix de détails perdus. Extraire des faits durables (préférences, décisions) dans une mémoire séparée, réinjectée au besoin, permet de garder l'important entre deux sessions.

Les fournisseurs proposent aussi la mise en cache du début du prompt : si le prompt système et les documents fixes restent identiques entre deux appels, leur traitement est réutilisé, ce qui réduit coût et délai de réponse. Demandez à l'équipe si ce mécanisme est exploité.

Quelles questions poser sur la fenêtre de contexte ?

Quelle part de la fenêtre est utilisée en moyenne, et dans les pires cas ? Quel comportement est prévu à la limite : erreur, coupure silencieuse, résumé automatique ? Le comportement a-t-il été testé sur les plus longues conversations réelles ? Une limite franchie sans signal clair produit des réponses incohérentes, difficiles à diagnostiquer après coup. Demandez aussi qui surveille ces chiffres après le lancement : la taille des prompts a tendance à grossir au fil des versions, à mesure que s'ajoutent consignes, outils et exemples.

Points clés

  • Entre deux appels, rien n'est conservé côté modèle : l'application lui transmet de nouveau le contexte nécessaire.
  • Plus on envoie de tokens, plus la requête coûte cher et tarde à répondre : les longs historiques sont donc résumés ou raccourcis.
  • Un détail placé au milieu d'une entrée très longue est plus souvent négligé qu'un détail placé en ouverture ou en conclusion.
  • La récupération (RAG) sélectionne les passages utiles au lieu de tout envoyer.
  • Les agents de code gèrent activement leur fenêtre : ils la vident, la compactent ou délèguent à des sous-agents.

Erreurs fréquentes

  • Croire qu'une fenêtre géante garantit une compréhension fiable de tout ce qu'elle contient.
  • Laisser une conversation s'allonger jusqu'à ce que les premières consignes soient évincées.
  • Oublier que la réponse elle-même consomme une partie de la fenêtre et du budget de sortie.

Pour aller plus loin dans Module

Les formations et les leçons qui traitent cette notion :

Guides sur ce thème