Injection de prompt directe et indirecte, et fuite du system prompt

Objectif de la leçon

À la fin de cette leçon, vous serez capable de distinguer injection directe, injection indirecte et jailbreak, de lister tous les points d'entrée d'une injection dans votre produit, et de décider ce qui peut ou non figurer dans un system prompt.

Dans quel module

Cartographier les menaces

Par où un produit IA peut-il être attaqué, et comment prioriser ce qu'on protège ?

Leçons du module

1. Cartographier les menaces avec l'OWASP et tenir un registre des risques
2. Injection de prompt directe et indirecte, et fuite du system prompt (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

• Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
• Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
• Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
• Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
• Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.

Formations liées

• Créer un assistant IA pour votre produitConfirmé · ~3 h
• Concevoir une architecture RAG adaptée à son produitConfirmé · ~3 h 30 min
• Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h