Module
Module 2 sur 6Leçon 1 sur 2~20 min

Choisir entre RAG, contexte long, données injectées et fine-tuning

Lancer un RAG par réflexe peut coûter des mois de travail quand une approche plus simple aurait suffi. Cette leçon aide le PM à choisir, besoin par besoin, entre contexte long, données fournies par l'application, RAG et fine-tuning, et à défendre ce choix face à l'équipe avec des critères produit clairs.

Objectif de la leçon

À la fin de cette leçon, vous serez capable de choisir, pour chaque besoin d'information de votre produit, entre contexte long, données injectées par l'application, RAG et fine-tuning, et de justifier ce choix par le volume, la fréquence de mise à jour, les droits et le coût.

Thèmes abordés

  • RAG ou fine-tuning
  • contexte long
  • fine-tuning LLM
  • choisir une approche IA

Dans quel module

Faut-il un RAG, et sur quelles sources ?

Mon besoin justifie-t-il un RAG, et quelles sources doivent y entrer ?

Leçons du module

  1. Choisir entre RAG, contexte long, données injectées et fine-tuning (cette leçon)
  2. Inventorier les sources et les métadonnées

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Concevoir une architecture RAG adaptée à son produit

  • Choisir, pour un besoin d'information, entre contexte long, données injectées par l'application, RAG et fine-tuning, et justifier le choix par le volume, la fréquence de mise à jour, les droits et le coût.
  • Spécifier l'inventaire des sources, les exclusions, les métadonnées à capturer et la stratégie de découpage des documents.
  • Concevoir la recherche : recherche sémantique, par mots-clés ou hybride, reranking, contextual retrieval, nombre de passages et seuil de pertinence.
  • Spécifier la réponse ancrée dans les sources, l'affichage des citations, la gestion des sources contradictoires et le comportement quand rien n'est trouvé.
  • Spécifier le filtrage par droits avant que le modèle ne lise un passage, et la fraîcheur de l'index (resynchronisation, suppressions, versions).
  • Construire un jeu de 30 questions de test couvrant les modes d'échec d'un RAG et diagnostiquer l'étape responsable d'une mauvaise réponse.
  • Estimer les postes de coût d'un RAG et arbitrer entre outil hébergé, base de connaissances gérée, base vectorielle et développement sur mesure.