Module
Module 3 sur 6Leçon 2 sur 2~18 min

Sorties non maîtrisées, autonomie excessive et consommation non bornée

Leçon 2 du module « Données qui sortent, actions qui dérapent » de la formation « Sécuriser un produit IA : injection de prompt, garde-fous et AI Act ».

Suivre cette leçon : première formation offerteVoir le programme complet

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'associer chaque sortie du modèle à son consommateur et au contrôle qui la rend sûre, de réduire les fonctionnalités, droits et autonomie d'une fonctionnalité IA au nécessaire, et de spécifier les limites qui bornent sa consommation.

Dans quel module

Données qui sortent, actions qui dérapent

Comment une attaque fait-elle sortir des données ou déclencher des actions, et où la couper ?

Leçons du module

  1. Exfiltration de données et trifecta létale
  2. Sorties non maîtrisées, autonomie excessive et consommation non bornée (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

  • Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
  • Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
  • Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
  • Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
  • Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.

Formations liées