Concevoir des garde-fous en couches
Fuite de données, réponses hors sujet, actions non autorisées : les risques d'un assistant intégré ne se règlent pas avec une phrase dans le prompt. Cette leçon vous aide à identifier les menaces qui concernent votre produit et à répartir les protections sur plusieurs couches, de l'autorisation jusqu'à la surveillance.
Mis à jour le 28 septembre 2026.
En bref
Les garde-fous d'un assistant IA sont les protections qui limitent ses risques : fuite de données, réponses hors sujet, actions non autorisées ou détournement par injection de prompt. Une consigne dans le prompt ne suffit pas, car le modèle peut être contourné : les protections se répartissent en couches, de l'autorisation jusqu'à la surveillance en production.
Objectif de la leçon
À la fin de cette leçon, vous serez capable d'identifier les principaux risques d'un assistant intégré et de placer chaque garde-fou dans la bonne couche (autorisation, entrée, modèle, outils, sortie, surveillance).
Les questions auxquelles cette leçon répond
Quels garde-fous mettre en place sur un assistant IA intégré à un produit ?
Des protections à plusieurs niveaux : contrôle des droits d'accès, filtrage des entrées, consignes au modèle, limites sur les outils, vérification des sorties et surveillance en production.
Comment protéger un chatbot contre l'injection de prompt ?
En partant du principe qu'elle finira par passer : limitez ce que l'assistant peut voir et faire, séparez les instructions des contenus externes et contrôlez les actions sensibles hors du modèle.
Pourquoi une consigne dans le prompt ne suffit-elle pas à sécuriser un assistant ?
Parce qu'un modèle suit des consignes de façon probabiliste et peut être manipulé par le texte qu'il lit. Les vraies garanties, comme les permissions, doivent être appliquées par le code.
Thèmes abordés
- garde-fous IA
- sécurité d'un assistant IA
- modèle de menaces
- injection de prompt
- IA responsable
Dans le glossaire
Guide sur ce thème
- RAG ou fine-tuning : comment choisir
Ce que règle chaque approche, les critères de choix et comment évaluer, avec une grille de décision.
Dans quel module
Actions et garde-fous
Que peut faire l'assistant, et comment l'empêcher de faire ce qu'il ne doit pas ?
Leçons du module
- Spécifier les outils et actions de l'assistant
- Concevoir des garde-fous en couches (cette leçon)
Ce que vous apprendrez dans la formation
Cette leçon fait partie de la formation Créer un assistant IA pour votre produit
Formations liées
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Sécuriser un produit IA : injection de prompt, garde-fous et AI Act
3 h
- IA & ProduitExpertNiveau avancé : pour approfondir et aller plus loin.
Concevoir des agents et du tool calling fiables
3 h 30 min
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Connecter l’IA à vos outils et données avec MCP
2 h 30 min