Cartographier les menaces avec l'OWASP et tenir un registre des risques

Objectif de la leçon

À la fin de cette leçon, vous serez capable de dresser la surface d'attaque d'une fonctionnalité IA, de la passer aux dix catégories de l'OWASP Top 10 pour les applications LLM 2025, et d'en tirer un registre des risques priorisé par probabilité et impact.

Dans quel module

Cartographier les menaces

Par où un produit IA peut-il être attaqué, et comment prioriser ce qu'on protège ?

Leçons du module

1. Cartographier les menaces avec l'OWASP et tenir un registre des risques (cette leçon)
2. Injection de prompt directe et indirecte, et fuite du system prompt

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

• Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
• Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
• Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
• Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
• Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.

Formations liées

• Créer un assistant IA pour votre produitConfirmé · ~3 h
• Concevoir une architecture RAG adaptée à son produitConfirmé · ~3 h 30 min
• Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h