Spécifier des garde-fous en couches, testables et chiffrés
Un garde-fou unique placé devant le modèle ne protège pas une fonctionnalité IA. Cette leçon vous apprend à répartir les protections sur plusieurs niveaux, à séparer celles qui limitent vraiment un risque de celles qui le rendent seulement moins probable, et à les spécifier avec un test et un coût.
Mis à jour le 29 septembre 2026.
En bref
Des garde-fous en couches répartissent les protections d'une fonctionnalité IA à plusieurs niveaux : entrées, contexte, actions, sorties et exploitation. Aucun filtre ne bloque toutes les attaques, donc chaque couche rattrape une partie de ce qui passe les autres. Pour un PM, spécifier chaque garde-fou avec un test et un coût rend ces protections vérifiables et arbitrables.
Objectif de la leçon
À la fin de cette leçon, vous serez capable de choisir, pour chaque risque du registre, des garde-fous dans plusieurs couches (entrée, contexte, actions, sortie, opérations), de distinguer ceux qui bornent le risque de ceux qui le réduisent, et de les spécifier avec un critère testable et un coût.
Les questions auxquelles cette leçon répond
Pourquoi un seul filtre ne suffit-il pas à protéger une fonctionnalité IA ?
Parce qu'un filtre peut être contourné par une reformulation ou un contenu indirect. Seule une défense en profondeur, où certaines couches limitent ce qu'une attaque réussie peut faire, protège réellement.
Comment spécifier un garde-fou IA testable ?
On décrit le risque visé, le comportement attendu, un test qui prouve qu'il fonctionne et son coût en latence ou en argent. Un garde-fou qu'on ne peut pas tester reste une intention.
Thèmes abordés
- garde-fous IA
- défense en profondeur
- guardrails
- spécification sécurité
Dans le glossaire
Guide sur ce thème
- Évaluer une fonctionnalité d’IA (evals)
Jeu de cas, critères, LLM-juge, seuils de mise en production et suivi, avec un plan d’evals.
Dans quel module
Garde-fous et opérations de sécurité
Quels garde-fous spécifier, comment savoir s'ils tiennent, et que faire le jour de l'incident ?
Leçons du module
- Spécifier des garde-fous en couches, testables et chiffrés (cette leçon)
- Red teaming, surveillance des abus et réponse à incident
Ce que vous apprendrez dans ce module
Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act
- Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
- Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
Formations liées
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Créer un assistant IA pour votre produit
3 h
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Obtenir des sorties IA fiables et exploitables par le produit (JSON, schémas, appels de fonction)
2 h 30 min
- IA & ProduitExpertNiveau avancé : pour approfondir et aller plus loin.
Concevoir des agents et du tool calling fiables
3 h 30 min