Assembler le registre des risques, les garde-fous et l'analyse AI Act

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'assembler le dossier de sécurité et de conformité IA de votre produit (registre des risques, garde-fous spécifiés, plan d'opérations, analyse AI Act et points RGPD), de l'auto-évaluer avec la checklist du kit et de planifier son application à 7 et 30 jours.

Dans quel module

Votre registre, vos garde-fous, votre analyse

Le registre, les garde-fous et l'analyse AI Act de votre produit tiennent-ils la revue ?

Leçons du module

1. Assembler le registre des risques, les garde-fous et l'analyse AI Act (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Sécuriser un produit IA : injection de prompt, garde-fous et AI Act

• Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
• Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
• Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
• Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
• Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.

Formations liées

• Créer un assistant IA pour votre produitConfirmé · ~3 h
• Concevoir une architecture RAG adaptée à son produitConfirmé · ~3 h 30 min
• Évaluer une fonctionnalité IA : jeux de test, métriques et LLM-jugeConfirmé · ~3 h