Module
Module 3 sur 6Leçon 1 sur 2~18 min

Exfiltration de données et trifecta létale

Leçon 1 du module « Données qui sortent, actions qui dérapent » de la formation « Sécuriser un produit IA : injection de prompt, garde-fous et AI Act ».

Suivre cette leçon : première formation offerteVoir le programme complet

Objectif de la leçon

À la fin de cette leçon, vous serez capable de repérer les canaux par lesquels une injection peut faire sortir des données (outils, requêtes, images, liens, index RAG), de dire si votre produit réunit la trifecta létale et de choisir l'élément à retirer.

Dans quel module

Données qui sortent, actions qui dérapent

Comment une attaque fait-elle sortir des données ou déclencher des actions, et où la couper ?

Leçons du module

  1. Exfiltration de données et trifecta létale (cette leçon)
  2. Sorties non maîtrisées, autonomie excessive et consommation non bornée

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

  • Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
  • Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
  • Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
  • Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
  • Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.

Formations liées