Aller au contenu
Module

RAG ou fine-tuning : choisir la bonne approche pour une fonctionnalité d’IA

RAG pour des faits et documents qui changent, fine-tuning pour un style, un format ou une tâche étroite. Critères, évaluation et grille gratuite.

Guide rédigé par Alex Dionisio, Senior Product Manager. Mis à jour le 13 novembre 2026.

En bref

Choisissez le RAG quand le modèle doit répondre à partir de faits ou de documents qui changent, et quand vous voulez citer la source. Choisissez le fine-tuning quand vous voulez changer un comportement : ton, format de sortie, tâche étroite répétée. Dans la plupart des produits, on commence par un bon prompt, on ajoute du RAG si la connaissance manque, et on n’envisage le fine-tuning qu’ensuite, mesures à l’appui.

RAG ou fine-tuning : lequel choisir ?

Le RAG donne au modèle des informations au moment de répondre ; le fine-tuning modifie la façon dont le modèle se comporte. Un problème de connaissance (le modèle ignore vos données) appelle le RAG, un problème de comportement (il ne répond pas comme il faut) appelle le fine-tuning.

La confusion vient d’une idée répandue : « pour que l’IA connaisse nos documents, il faut l’entraîner dessus ». En pratique, c’est rarement la bonne voie. Un modèle ajusté sur votre documentation ne la retient pas fidèlement, ne sait pas dire d’où vient une réponse et devient obsolète dès que le document change.

  • Faits, documents, données qui évoluent (catalogue, base d’aide, contrats, procédures internes) : RAG.
  • Ton, structure de réponse, format strict, classification ou extraction très répétée : fine-tuning, quand le prompt seul n’y arrive pas.
  • Les deux à la fois : un assistant qui cite vos documents dans un format maison peut combiner RAG et modèle ajusté, mais ce cas arrive tard dans la vie d’un produit.

La bonne question pour l’équipe n’est donc pas « quelle technique ? » mais « qu’est-ce qui manque aujourd’hui au modèle pour bien répondre : une information, ou une manière de faire ? ».

Comment fonctionne le RAG ?

Le RAG (Retrieval-Augmented Generation, génération augmentée par la recherche) cherche les passages pertinents dans vos documents au moment de la question, les place dans le prompt et demande au modèle de répondre à partir de ces passages, idéalement en les citant.

Le terme vient d’un article de recherche de Lewis et al. (2020). Dans les produits actuels, la chaîne se résume à deux temps.

  1. Préparer le corpus : les documents sont découpés en morceaux (le chunking), chaque morceau est transformé en vecteur numérique (ses embeddings) et rangé dans une base vectorielle ou un index de recherche.
  2. Répondre : à chaque question, le système retrouve les morceaux les plus proches, souvent en mêlant recherche par sens et recherche par mots-clés, puis les envoie au modèle avec la consigne de s’y tenir.

Le modèle lui-même ne change pas. Toute la qualité dépend de ce qu’on lui apporte : si la recherche remonte le mauvais passage, la réponse sera fausse avec assurance. C’est pourquoi un RAG se juge d’abord sur sa recherche, puis sur sa réponse.

Mettre un document à jour revient à le réindexer : pas de réentraînement, et la nouvelle version est disponible dès la prochaine question.

Comment fonctionne le fine-tuning ?

Le fine-tuning poursuit l’entraînement d’un modèle existant sur des exemples choisis (une entrée, la sortie attendue) pour qu’il adopte un comportement précis sans qu’on le lui réexplique à chaque requête. Il produit une nouvelle version du modèle, qu’il faut faire servir (par le fournisseur ou par vous), évaluer et maintenir, et qui disparaît avec son modèle de base.

Le principe : vous rassemblez des paires exemple/réponse idéale (OpenAI conseille de commencer avec une cinquantaine d’exemples soignés, puis d’augmenter si l’évaluation le justifie), le fournisseur ou votre équipe ajuste les paramètres du modèle, et vous obtenez un modèle dédié. Selon le fournisseur, les options diffèrent (ajustement supervisé, par préférences, modèles disponibles) : consultez la documentation du vôtre avant de promettre quoi que ce soit. L’offre bouge vite : OpenAI a par exemple fermé sa plateforme de fine-tuning aux nouveaux utilisateurs.

  • Ce qu’il apprend bien : un style constant, un format de sortie strict, une tâche étroite et répétée (classer des tickets, extraire des champs), parfois avec un modèle plus petit donc plus rapide.
  • Ce qu’il apprend mal : des faits précis et vérifiables. Il en retient une impression, pas une copie, ce qui peut aggraver les hallucinations sur les détails, comme l’a mesuré une étude publiée en 2024.
  • Ce qu’il coûte : un jeu d’exemples propre, des cycles d’entraînement, une évaluation à chaque version, et un nouveau travail dès que le modèle de base évolue.

Le guide d’OpenAI sur l’optimisation de la précision des LLM présente la même distinction : le RAG traite les connaissances nécessaires à la réponse, le fine-tuning traite la manière dont il doit se comporter.

Quels critères pour choisir entre RAG et fine-tuning ?

Six critères départagent RAG et fine-tuning : la fraîcheur des informations, le besoin de citer les sources, le coût total, la latence acceptable, les données dont vous disposez et la confidentialité. Passez-les un par un pour chaque besoin, pas pour le produit entier.

  • Fraîcheur : si l’information change chaque semaine, le RAG suit en réindexant ; un modèle ajusté resterait figé à la date de son entraînement.
  • Traçabilité et citations : le RAG peut montrer le passage utilisé et renvoyer vers le document. Un modèle ajusté ne peut pas dire d’où il tient une réponse. Dans un contexte juridique, médical ou de support client, ce point tranche souvent.
  • Coût : le RAG coûte surtout à l’usage (indexation, recherche, prompts plus longs). Le fine-tuning coûte d’abord en préparation (données, entraînement, évaluation), puis peut réduire la taille des prompts. Comparez sur le volume réel de requêtes.
  • Latence : le RAG ajoute une étape de recherche et allonge le prompt. Un petit modèle ajusté peut répondre plus vite sur une tâche étroite.
  • Données disponibles : le RAG a besoin de documents à jour et bien rangés ; le fine-tuning a besoin d’exemples de bonnes réponses, nombreux et cohérents. Beaucoup d’équipes ont les premiers, peu ont les seconds.
  • Confidentialité et droits : avec le RAG, chaque utilisateur ne doit retrouver que les documents qu’il est autorisé à consulter, ce qui se règle au moment de la recherche. Avec le fine-tuning, ce qui entre dans le modèle peut ressortir pour n’importe qui (des chercheurs ont extrait des données d’entraînement d’un modèle de langage) : n’y mettez jamais de données qu’un utilisateur n’aurait pas le droit de lire.

Ce passage en revue mène souvent à une réponse mixte : RAG pour la base d’aide, données injectées directement par l’application pour le compte de l’utilisateur, prompt seul pour le ton.

Faut-il commencer par le prompt avant le RAG ou le fine-tuning ?

Oui, commencez par le prompt : instructions claires, exemples, contexte fourni directement. Aucune autre option ne se teste et ne se modifie aussi vite. Le RAG arrive quand le contexte utile devient trop gros ou trop mouvant, le fine-tuning quand le prompt ne suffit plus à obtenir un comportement stable.

Beaucoup de besoins qu’on croit réservés au fine-tuning se règlent avec deux ou trois exemples dans le prompt et un format de sortie bien décrit. Beaucoup de besoins qu’on croit réservés au RAG se règlent en passant directement au modèle la donnée que l’application connaît déjà : la fiche du client, la commande en cours.

Quand le corpus est petit et stable, il peut même tenir en entier dans le prompt. Anthropic l’écrit dans son article sur la recherche contextuelle : sous environ 200 000 tokens de base de connaissances (à peu près 500 pages), inclure tout le contenu dans le prompt, avec la mise en cache, peut suffire. Ce raccourci cesse de fonctionner quand le corpus grossit, change souvent ou dépend des droits de chaque utilisateur.

  1. Prompt seul : instructions, exemples, format attendu. Mesurez.
  2. Contexte fourni : ajoutez les données que l’application possède déjà, ou un petit corpus complet. Mesurez.
  3. RAG : quand le contenu utile dépasse ce qui tient raisonnablement dans le prompt ou change trop vite. Mesurez.
  4. Fine-tuning : quand il reste un écart de comportement que ni le prompt ni le contexte ne corrigent, et que vous avez les exemples pour l’entraîner.

Pour comprendre ce qu’un modèle sait faire seul avant d’ajouter de l’architecture autour, la formation sur les capacités et limites des LLM aide à situer les limites du modèle seul.

Peut-on combiner RAG et fine-tuning ?

Oui. RAG et fine-tuning se combinent bien parce qu’ils agissent sur deux choses différentes : le RAG apporte les faits du moment, le fine-tuning règle la façon de les utiliser. La combinaison se justifie quand chacune des deux briques a prouvé seule sa valeur.

Trois combinaisons reviennent dans les produits :

  • Modèle ajusté pour bien exploiter les passages : il apprend à s’en tenir aux documents fournis, à citer, à reconnaître qu’il n’a pas de réponse quand la recherche ne remonte rien d’utile.
  • Modèle ajusté pour le format : la réponse doit suivre une structure maison (fiche, résumé normé, champs JSON) que le prompt seul ne tient pas de façon fiable.
  • Petit modèle ajusté dans la chaîne : un modèle rapide reformule la question ou trie les passages avant que le modèle principal ne réponde.

La combinaison double aussi la maintenance : un index à tenir à jour et un modèle à réentraîner. Réservez-la aux cas où les mesures prouvent un gain net face au RAG seul. Pour un assistant intégré au produit, la formation consacrée à la conception d’un assistant intégré montre comment ces briques s’articulent côté expérience utilisateur.

Comment évaluer si le choix est le bon ?

Évaluez le choix avec un jeu de questions réelles et leurs réponses attendues, passé sur chaque option candidate : prompt seul, RAG, modèle ajusté. Comparez la justesse, la présence de sources, la latence et le coût par requête, puis gardez l’option la plus légère qui franchit votre seuil.

  1. Rassemblez des questions réelles : tickets de support, recherches internes, questions d’utilisateurs. Incluez des questions sans réponse dans les documents.
  2. Écrivez la réponse attendue et, pour le RAG, le document qui devrait être retrouvé.
  3. Mesurez la recherche à part : le bon passage figure-t-il parmi ceux remontés ? Si non, aucun réglage du modèle ne sauvera la réponse.
  4. Mesurez la réponse : juste, fidèle aux sources, complète, au bon format. Notez les réponses inventées.
  5. Comparez coût et latence sur un volume réaliste, pas sur trois essais.

Fixez le seuil d’acceptation avant de lancer les tests, sinon on finit toujours par trouver que l’option préférée « suffit ». La méthode générale est décrite dans le guide évals IA pour Product Manager, et la formation Évaluer une fonctionnalité IA la met en pratique.

Quelles erreurs éviter entre RAG et fine-tuning ?

Les erreurs les plus courantes sont de fine-tuner pour apprendre des faits, de lancer un RAG sans avoir regardé la qualité des documents, de mettre des données sensibles dans un modèle ajusté, et de choisir sans jeu d’évaluation. Chacune coûte des semaines et se voit tard.

  • Fine-tuner pour « apprendre la doc » : le modèle mélange, invente des détails et vieillit avec la doc. Pour des faits, cherchez-les au moment de répondre.
  • Indexer des documents en désordre : versions contradictoires, pages obsolètes, PDF illisibles. Le RAG retrouvera fidèlement le mauvais texte. Le tri des sources est un travail produit.
  • Oublier les droits d’accès : un RAG commun à tous les utilisateurs peut exposer un document confidentiel à la bonne question. Filtrez à la recherche, selon l’utilisateur.
  • Juger sur une démo : cinq questions bien choisies passent toujours. Seul un jeu de questions réelles révèle les trous.
  • Sauter l’étape du prompt : engager une équipe sur un fine-tuning avant d’avoir écrit un prompt soigné avec exemples.
  • Croire qu’un grand contexte rend le RAG inutile : sur un gros corpus, le contrôle des droits, la mise à jour et le coût par requête restent entiers.

Pour cadrer un RAG de bout en bout (choix des sources, découpage, recherche, droits, fraîcheur, coût), la formation Architecture RAG vous guide pas à pas jusqu’à un document d’architecture partageable avec l’équipe technique.

Modèle gratuit : CHOIX-RAG-FINE-TUNING.md

Remplissez une grille par besoin de la fonctionnalité (pas une pour tout le produit), puis partagez-la avec l’équipe technique avant de lancer le moindre développement.

Télécharger CHOIX-RAG-FINE-TUNING.md
# Choix RAG ou fine-tuning : [nom de la fonctionnalité]

Besoin étudié : [ex. répondre aux questions sur la politique de retour]
Date : [date]

## 1. Ce qui manque au modèle aujourd’hui
- [ ] Une information (faits, documents, données) → piste RAG ou contexte fourni
- [ ] Une manière de faire (ton, format, tâche répétée) → piste prompt puis fine-tuning
- Exemple de mauvaise réponse actuelle : ...

## 2. Grille de critères
| Critère | Réponse | Penche vers |
|---|---|---|
| L’information change-t-elle souvent ? | oui / non | oui → RAG |
| Faut-il citer la source ? | oui / non | oui → RAG |
| Les réponses dépendent-elles des droits de l’utilisateur ? | oui / non | oui → RAG filtré ou données de l’app |
| Le corpus tient-il entier dans le prompt ? | oui / non | oui → contexte fourni |
| Le format ou le ton échappe-t-il au prompt ? | oui / non | oui → fine-tuning |
| Avons-nous au moins plusieurs dizaines d’exemples soignés de bonnes réponses ? | oui / non | non → pas de fine-tuning |
| La latence est-elle critique ? | oui / non | oui → petit modèle, prompt court |
| Des données sensibles seraient-elles dans l’entraînement ? | oui / non | oui → pas de fine-tuning |

## 3. Options testées
| Option | Justesse | Sources citées | Latence | Coût par requête |
|---|---|---|---|---|
| Prompt seul | | | | |
| Prompt + contexte fourni | | | | |
| RAG | | | | |
| Modèle ajusté (si justifié) | | | | |

Seuil d’acceptation fixé avant les tests : ...

## 4. Décision
- Option retenue : ...
- Pourquoi : ...
- Ce qui nous ferait changer d’avis : ...

## 5. Points à vérifier
- [ ] Sources du RAG triées et à jour
- [ ] Droits d’accès appliqués à la recherche
- [ ] Jeu d’évaluation de questions réelles prêt
- [ ] Responsable de la mise à jour (index ou modèle) nommé

Passer à la pratique

La formation « Concevoir une architecture RAG adaptée à son produit » vous guide pas à pas, sur votre propre produit, jusqu’au livrable.

Voir la formation

Questions fréquentes

Le fine-tuning permet-il à un LLM de connaître mes documents ?

Mal. Un modèle ajusté garde une impression générale du contenu, pas une copie fiable, et ne peut pas citer sa source. Pour qu’un assistant s’appuie sur vos documents, faites-les retrouver au moment de la question avec du RAG.

Le RAG est-il moins cher que le fine-tuning ?

Pas forcément. Le RAG coûte peu au départ mais allonge chaque requête ; le fine-tuning coûte en préparation et en maintenance mais peut raccourcir les prompts. Comparez sur votre volume réel et incluez le temps de l’équipe.

Quand le fine-tuning vaut-il vraiment le coup ?

Quand une tâche étroite se répète à grande échelle, que le prompt n’obtient pas un comportement stable, et que vous disposez de nombreux exemples de bonnes réponses. Sans ces trois conditions, le gain couvre rarement l’effort.

Un modèle avec une très grande fenêtre de contexte remplace-t-il le RAG ?

Pour un petit corpus stable visible par tous, souvent oui. Pour un corpus volumineux, changeant ou soumis à des droits par utilisateur, non : il faut toujours choisir quoi envoyer, et chaque requête paie le contexte envoyé, même si la mise en cache en réduit le prix.

Un Product Manager doit-il savoir construire un RAG ?

Non, mais il doit savoir le cadrer : quelles sources, pour quels utilisateurs, avec quelles règles de droits et de fraîcheur, et comment juger la qualité. Ce sont des décisions produit, que l’équipe technique ne peut pas prendre seule.