Aller au contenu
Module
Module 4 sur 6Leçon 1 sur 2~22 min

Spécifier des garde-fous en couches, testables et chiffrés

Un garde-fou unique placé devant le modèle ne protège pas une fonctionnalité IA. Cette leçon vous apprend à répartir les protections sur plusieurs niveaux, à séparer celles qui limitent vraiment un risque de celles qui le rendent seulement moins probable, et à les spécifier avec un test et un coût.

Mis à jour le 29 septembre 2026.

En bref

Des garde-fous en couches répartissent les protections d'une fonctionnalité IA à plusieurs niveaux : entrées, contexte, actions, sorties et exploitation. Aucun filtre ne bloque toutes les attaques, donc chaque couche rattrape une partie de ce qui passe les autres. Pour un PM, spécifier chaque garde-fou avec un test et un coût rend ces protections vérifiables et arbitrables.

Objectif de la leçon

À la fin de cette leçon, vous serez capable de choisir, pour chaque risque du registre, des garde-fous dans plusieurs couches (entrée, contexte, actions, sortie, opérations), de distinguer ceux qui bornent le risque de ceux qui le réduisent, et de les spécifier avec un critère testable et un coût.

Les questions auxquelles cette leçon répond

  • Pourquoi un seul filtre ne suffit-il pas à protéger une fonctionnalité IA ?

    Parce qu'un filtre peut être contourné par une reformulation ou un contenu indirect. Seule une défense en profondeur, où certaines couches limitent ce qu'une attaque réussie peut faire, protège réellement.

  • Comment spécifier un garde-fou IA testable ?

    On décrit le risque visé, le comportement attendu, un test qui prouve qu'il fonctionne et son coût en latence ou en argent. Un garde-fou qu'on ne peut pas tester reste une intention.

Thèmes abordés

  • garde-fous IA
  • défense en profondeur
  • guardrails
  • spécification sécurité

Dans le glossaire

Tout le glossaire

Guide sur ce thème

Dans quel module

Garde-fous et opérations de sécurité

Quels garde-fous spécifier, comment savoir s'ils tiennent, et que faire le jour de l'incident ?

Leçons du module

  1. Spécifier des garde-fous en couches, testables et chiffrés (cette leçon)
  2. Red teaming, surveillance des abus et réponse à incident

Ce que vous apprendrez dans ce module

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

  • Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
  • Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.