Placer les validations humaines selon le rayon d'impact

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'évaluer le rayon d'impact de chaque action d'un agent, de placer les points de validation humaine au bon endroit et de limiter les permissions de l'agent à celles de l'utilisateur pour lequel il agit.

Dans quel module

Contrôle humain et sécurité

Où l'humain doit-il valider, avec quels droits l'agent agit-il, et comment l'empêcher d'obéir à un contenu piégé ?

Leçons du module

1. Placer les validations humaines selon le rayon d'impact (cette leçon)
2. Parer l'injection de prompt par les sorties d'outils

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Concevoir des agents et du tool calling fiables

• Décider, avec des critères explicites, si un cas d'usage relève d'un appel unique, d'un workflow ou d'un agent, et choisir le motif adapté.
• Rédiger des fiches outils que le modèle utilise bien (nom, description, paramètres, retour, erreurs, idempotence, niveau de risque).
• Spécifier la boucle d'un agent (objectif, contexte, conditions d'arrêt, budgets, gestion des erreurs) et juger le recours à un orchestrateur et à des sous-agents.
• Placer les points de validation humaine et les permissions d'un agent selon le rayon d'impact de chaque action.
• Identifier les chemins d'injection de prompt par les sorties d'outils et spécifier des parades structurelles, hors du seul prompt.
• Spécifier la trace d'un run et l'évaluation d'un agent (succès de la tâche, trajectoire, coût, latence, régularité sur plusieurs essais).

Formations liées

• Créer un assistant IA pour votre produitConfirmé · ~3 h
• Concevoir une architecture RAG adaptée à son produitConfirmé · ~3 h 30 min
• Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h