Parer l'injection de prompt par les sorties d'outils

Objectif de la leçon

À la fin de cette leçon, vous serez capable de repérer les chemins par lesquels un contenu tiers entre dans le contexte d'un agent via ses outils, et de spécifier pour chacun des parades structurelles qui ne reposent pas seulement sur le prompt.

Dans quel module

Contrôle humain et sécurité

Où l'humain doit-il valider, avec quels droits l'agent agit-il, et comment l'empêcher d'obéir à un contenu piégé ?

Leçons du module

1. Placer les validations humaines selon le rayon d'impact
2. Parer l'injection de prompt par les sorties d'outils (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Concevoir des agents et du tool calling fiables

• Décider, avec des critères explicites, si un cas d'usage relève d'un appel unique, d'un workflow ou d'un agent, et choisir le motif adapté.
• Rédiger des fiches outils que le modèle utilise bien (nom, description, paramètres, retour, erreurs, idempotence, niveau de risque).
• Spécifier la boucle d'un agent (objectif, contexte, conditions d'arrêt, budgets, gestion des erreurs) et juger le recours à un orchestrateur et à des sous-agents.
• Placer les points de validation humaine et les permissions d'un agent selon le rayon d'impact de chaque action.
• Identifier les chemins d'injection de prompt par les sorties d'outils et spécifier des parades structurelles, hors du seul prompt.
• Spécifier la trace d'un run et l'évaluation d'un agent (succès de la tâche, trajectoire, coût, latence, régularité sur plusieurs essais).

Formations liées

• Créer un assistant IA pour votre produitConfirmé · ~3 h
• Concevoir une architecture RAG adaptée à son produitConfirmé · ~3 h 30 min
• Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h