Concevoir une architecture RAG adaptée à son produit
Décider s’il faut un RAG, puis spécifier chaque étape : sources, découpage, recherche, droits, fraîcheur, réponse citée et coût, avec 30 questions de test.
Décider si votre produit a besoin d'un RAG, puis en spécifier chaque étape avec votre équipe : sources, découpage, recherche, droits d'accès, fraîcheur, réponse citée et coût. Vous repartez avec l'architecture RAG documentée de votre produit et un jeu de 30 questions de test, sans écrire de code.
Ce que vous saurez faire
- Choisir, pour un besoin d'information, entre contexte long, données injectées par l'application, RAG et fine-tuning, et justifier le choix par le volume, la fréquence de mise à jour, les droits et le coût.
- Spécifier l'inventaire des sources, les exclusions, les métadonnées à capturer et la stratégie de découpage des documents.
- Concevoir la recherche : recherche sémantique, par mots-clés ou hybride, reranking, contextual retrieval, nombre de passages et seuil de pertinence.
- Spécifier la réponse ancrée dans les sources, l'affichage des citations, la gestion des sources contradictoires et le comportement quand rien n'est trouvé.
- Spécifier le filtrage par droits avant que le modèle ne lise un passage, et la fraîcheur de l'index (resynchronisation, suppressions, versions).
- Construire un jeu de 30 questions de test couvrant les modes d'échec d'un RAG et diagnostiquer l'étape responsable d'une mauvaise réponse.
- Estimer les postes de coût d'un RAG et arbitrer entre outil hébergé, base de connaissances gérée, base vectorielle et développement sur mesure.
Prérequis
- Savoir ce qu'est un LLM, un prompt et une fenêtre de contexte, au niveau « je sais l'expliquer à un collègue »
- Avoir déjà rédigé des specs ou des user stories avec une équipe technique
- Cours recommandé, non bloquant : Créer un assistant IA pour votre produit (vue d'ensemble de l'assistant, dont une première leçon sur le RAG).
- Ce cours ne s'adresse pas aux développeurs qui cherchent un tutoriel d'implémentation (SDK, code).
Programme
Que vais-je concevoir dans ce cours, et dans quel ordre ?
- Présentation du cours3 étapes
Objectif · À la fin de cette présentation, vous saurez ce que vous allez produire (l'architecture RAG documentée de votre produit et un jeu de 30 questions de test) et dans quel ordre les cinq modules vous y conduisent.
Mon besoin justifie-t-il un RAG, et quelles sources doivent y entrer ?
Objectif · À la fin de cette leçon, vous serez capable de choisir, pour chaque besoin d'information de votre produit, entre contexte long, données injectées par l'application, RAG et fine-tuning, et de justifier ce choix par le volume, la fréquence de mise à jour, les droits et le coût.
Objectif · À la fin de cette leçon, vous serez capable de construire l'inventaire des sources d'un RAG à partir de vraies questions d'utilisateurs, de décider ce qui en est exclu et de lister les métadonnées à capturer dès l'ingestion.
Comment les documents deviennent-ils des passages que la recherche peut retrouver ?
Objectif · À la fin de cette leçon, vous serez capable de choisir une stratégie de découpage adaptée à la structure de vos documents et à l'unité de réponse attendue, et de la formuler en exigences que l'équipe pourra tester.
Objectif · À la fin de cette leçon, vous serez capable d'expliquer comment une recherche sémantique retrouve des passages, de lister les décisions produit qu'elle implique (modèle, nombre de passages, seuil de pertinence) et d'anticiper ses points faibles.
Comment retrouver les bons passages, et comment l'assistant doit-il répondre à partir d'eux ?
Objectif · À la fin de cette leçon, vous serez capable de choisir les améliorations de recherche à tester (recherche hybride, reranking, contextual retrieval, réécriture de la requête), dans quel ordre, et de juger leur effet sur la qualité, la latence et le coût.
Objectif · À la fin de cette leçon, vous serez capable de spécifier comment l'assistant répond à partir des passages : ancrage, format des citations, règle en cas de sources contradictoires et comportement quand rien de pertinent n'est trouvé.
Comment garantir que chacun ne lit que ce qu'il a le droit de voir, dans sa version à jour ?
Objectif · À la fin de cette leçon, vous serez capable de spécifier le filtrage par droits d'un RAG (d'où viennent les droits, où s'applique le filtre, comment les droits se synchronisent) et de refuser une architecture dont la sécurité repose sur le prompt.
- Garder l'index à jour5 étapes
Objectif · À la fin de cette leçon, vous serez capable de fixer un objectif de fraîcheur par source et de spécifier les mécanismes qui le tiennent : resynchronisation, propagation des suppressions, versions et alerte en cas d'échec.
Comment prouver que mon RAG marche, combien il coûte, et comment le documenter ?
Objectif · À la fin de cette leçon, vous serez capable de construire un jeu de 30 questions de test qui couvre les modes d'échec d'un RAG, et de diagnostiquer l'étape responsable d'une mauvaise réponse (recherche, classement, fraîcheur, génération).
Objectif · À la fin de cette leçon, vous serez capable de lister les postes de coût d'un RAG et d'arbitrer entre outil hébergé d'un fournisseur de modèles, base de connaissances gérée, recherche vectorielle dans une base existante et pipeline sur mesure.
Objectif · À la fin de cette leçon, vous serez capable d'assembler l'architecture RAG documentée de votre produit en sept sections, avec son jeu de 30 questions, et de planifier sa mise en œuvre à 7 et 30 jours.