Placer les validations humaines selon le rayon d'impact
Demander une confirmation à chaque étape lasse les utilisateurs, n'en demander aucune expose à des actions irréversibles. Cette leçon vous aide à mesurer ce que chaque action d'un agent peut casser, à placer les validations humaines là où elles comptent et à borner ses droits à ceux de l'utilisateur.
Mis à jour le 29 septembre 2026.
En bref
Le rayon d'impact désigne ce qu'une action d'agent peut casser si elle se trompe : combien de personnes, quelle somme, et si c'est réversible. Les validations humaines se placent là où ce rayon est grand, pas à chaque étape. Et l'agent ne doit jamais disposer de plus de droits que l'utilisateur pour lequel il agit.
Objectif de la leçon
À la fin de cette leçon, vous serez capable d'évaluer le rayon d'impact de chaque action d'un agent, de placer les points de validation humaine au bon endroit et de limiter les permissions de l'agent à celles de l'utilisateur pour lequel il agit.
Les questions auxquelles cette leçon répond
Où placer les validations humaines dans un agent IA ?
Sur les actions irréversibles, coûteuses ou visibles par des tiers. Les actions de lecture ou faciles à annuler peuvent se passer de confirmation pour ne pas lasser l'utilisateur.
Comment mesurer le rayon d'impact des actions d'un agent ?
Regardez qui est touché, combien cela peut coûter et si l'action peut être annulée. Plus l'impact est large et irréversible, plus une validation humaine se justifie.
Quelles permissions donner à un agent qui agit pour un utilisateur ?
Jamais plus que celles de l'utilisateur lui-même, et idéalement seulement celles nécessaires à la tâche, pour qu'une erreur ou un détournement reste contenu.
Thèmes abordés
- human in the loop
- validation humaine
- permissions d'un agent
- rayon d'impact
- sécurité des agents
Dans le glossaire
Guides sur ce thème
- Écrire une spec pour agent IA
Les sections d’une spec qu’un agent de code exécute sans deviner, avec un modèle SPEC.md.
- MCP pour Product Manager
Connecter l’IA à vos outils et cadrer un serveur MCP : outils, permissions, sécurité, avec un modèle de spec.
Dans quel module
Contrôle humain et sécurité
Où l'humain doit-il valider, avec quels droits l'agent agit-il, et comment l'empêcher d'obéir à un contenu piégé ?
Leçons du module
- Placer les validations humaines selon le rayon d'impact (cette leçon)
- Parer l'injection de prompt par les sorties d'outils
Ce que vous apprendrez dans ce module
Cette leçon fait partie de la formation Concevoir des agents et du tool calling fiables
- Placer les points de validation humaine et les permissions d'un agent selon le rayon d'impact de chaque action.
- Identifier les chemins d'injection de prompt par les sorties d'outils et spécifier des parades structurelles, hors du seul prompt.
Formations liées
- IA & FondamentauxTout publicAucun pré-requis : accessible à toutes et tous.
Choisir et utiliser ses outils d'IA au quotidien
1 h 40 min
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Sécuriser un produit IA : injection de prompt, garde-fous et AI Act
3 h
- IA & ProduitConfirméPratique régulière : vous utilisez déjà l’outil ou êtes confronté à la thématique.
Créer un assistant IA pour votre produit
3 h