Choisir entre RAG, contexte long, données injectées et fine-tuning
Lancer un RAG par réflexe peut coûter des mois de travail quand une approche plus simple aurait suffi. Cette leçon aide le PM à choisir, besoin par besoin, entre contexte long, données fournies par l'application, RAG et fine-tuning, et à défendre ce choix face à l'équipe avec des critères produit clairs.
Objectif de la leçon
À la fin de cette leçon, vous serez capable de choisir, pour chaque besoin d'information de votre produit, entre contexte long, données injectées par l'application, RAG et fine-tuning, et de justifier ce choix par le volume, la fréquence de mise à jour, les droits et le coût.
Thèmes abordés
- RAG ou fine-tuning
- contexte long
- fine-tuning LLM
- choisir une approche IA
Dans quel module
Faut-il un RAG, et sur quelles sources ?
Mon besoin justifie-t-il un RAG, et quelles sources doivent y entrer ?
Leçons du module
- Choisir entre RAG, contexte long, données injectées et fine-tuning (cette leçon)
- Inventorier les sources et les métadonnées
Ce que vous apprendrez dans la formation
Cette leçon fait partie de la formation Concevoir une architecture RAG adaptée à son produit
- Choisir, pour un besoin d'information, entre contexte long, données injectées par l'application, RAG et fine-tuning, et justifier le choix par le volume, la fréquence de mise à jour, les droits et le coût.
- Spécifier l'inventaire des sources, les exclusions, les métadonnées à capturer et la stratégie de découpage des documents.
- Concevoir la recherche : recherche sémantique, par mots-clés ou hybride, reranking, contextual retrieval, nombre de passages et seuil de pertinence.
- Spécifier la réponse ancrée dans les sources, l'affichage des citations, la gestion des sources contradictoires et le comportement quand rien n'est trouvé.
- Spécifier le filtrage par droits avant que le modèle ne lise un passage, et la fraîcheur de l'index (resynchronisation, suppressions, versions).
- Construire un jeu de 30 questions de test couvrant les modes d'échec d'un RAG et diagnostiquer l'étape responsable d'une mauvaise réponse.
- Estimer les postes de coût d'un RAG et arbitrer entre outil hébergé, base de connaissances gérée, base vectorielle et développement sur mesure.
Formations liées
- Créer un assistant IA pour votre produitConfirmé · ~3 h
- Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h
- Mettre en production et monitorer une fonctionnalité IAExpert · ~3 h