Aller au contenu
Module
Module 5 sur 7Leçon 1 sur 2~19 min

Placer les validations humaines selon le rayon d'impact

Demander une confirmation à chaque étape lasse les utilisateurs, n'en demander aucune expose à des actions irréversibles. Cette leçon vous aide à mesurer ce que chaque action d'un agent peut casser, à placer les validations humaines là où elles comptent et à borner ses droits à ceux de l'utilisateur.

Mis à jour le 29 septembre 2026.

En bref

Le rayon d'impact désigne ce qu'une action d'agent peut casser si elle se trompe : combien de personnes, quelle somme, et si c'est réversible. Les validations humaines se placent là où ce rayon est grand, pas à chaque étape. Et l'agent ne doit jamais disposer de plus de droits que l'utilisateur pour lequel il agit.

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'évaluer le rayon d'impact de chaque action d'un agent, de placer les points de validation humaine au bon endroit et de limiter les permissions de l'agent à celles de l'utilisateur pour lequel il agit.

Les questions auxquelles cette leçon répond

  • Où placer les validations humaines dans un agent IA ?

    Sur les actions irréversibles, coûteuses ou visibles par des tiers. Les actions de lecture ou faciles à annuler peuvent se passer de confirmation pour ne pas lasser l'utilisateur.

  • Comment mesurer le rayon d'impact des actions d'un agent ?

    Regardez qui est touché, combien cela peut coûter et si l'action peut être annulée. Plus l'impact est large et irréversible, plus une validation humaine se justifie.

  • Quelles permissions donner à un agent qui agit pour un utilisateur ?

    Jamais plus que celles de l'utilisateur lui-même, et idéalement seulement celles nécessaires à la tâche, pour qu'une erreur ou un détournement reste contenu.

Thèmes abordés

  • human in the loop
  • validation humaine
  • permissions d'un agent
  • rayon d'impact
  • sécurité des agents

Dans le glossaire

Tout le glossaire

Guides sur ce thème

Dans quel module

Contrôle humain et sécurité

Où l'humain doit-il valider, avec quels droits l'agent agit-il, et comment l'empêcher d'obéir à un contenu piégé ?

Leçons du module

  1. Placer les validations humaines selon le rayon d'impact (cette leçon)
  2. Parer l'injection de prompt par les sorties d'outils

Ce que vous apprendrez dans ce module

Cette leçon fait partie de la formation Concevoir des agents et du tool calling fiables

  • Placer les points de validation humaine et les permissions d'un agent selon le rayon d'impact de chaque action.
  • Identifier les chemins d'injection de prompt par les sorties d'outils et spécifier des parades structurelles, hors du seul prompt.