Sécuriser un produit IA : injection de prompt, garde-fous et AI Act
Registre des risques IA avec l’OWASP, garde-fous en couches testables, red teaming et incidents, analyse AI Act après le Digital Omnibus.
Porter la sécurité et la conformité d'un produit qui embarque de l'IA, avec l'équipe technique, la sécurité et le juridique : cartographier les menaces avec l'OWASP Top 10 pour les applications LLM, analyser les chemins d'injection de prompt et d'exfiltration, spécifier des garde-fous en couches avec des critères testables, organiser le red teaming, la surveillance des abus et la réponse à incident, puis qualifier votre produit au regard de l'AI Act (rôle, niveau de risque, transparence de l'article 50, calendrier après le Digital Omnibus) et du RGPD. Vous repartez avec le dossier de sécurité et de conformité IA de votre produit en cinq pièces : registre des risques, garde-fous spécifiés, plan d'opérations, analyse AI Act datée, transparence et RGPD, prêt à relire avec la sécurité et un juriste. Ce cours n'est pas un conseil juridique.
Ce que vous saurez faire
- Cartographier la surface d'attaque d'un produit IA et ses risques avec l'OWASP Top 10 pour les applications LLM 2025, dans un registre des risques priorisé.
- Analyser les chemins d'injection de prompt directe et indirecte, de fuite du system prompt et d'exfiltration de données (trifecta létale) d'un produit.
- Spécifier des garde-fous en couches (entrée, sortie, droits, validation humaine, isolation, limites) avec des critères testables et leur coût.
- Planifier le red teaming, la surveillance des abus et la réponse à incident d'une fonctionnalité IA.
- Qualifier un produit au regard de l'AI Act (rôle, niveau de risque, pratiques interdites, transparence, calendrier) et articuler cette analyse avec le RGPD.
Prérequis
- Avoir une fonctionnalité IA en production ou en projet (assistant, génération de texte, agent, extraction)
- Savoir ce qu'est un system prompt, un appel d'outil et un système RAG, au niveau « je sais ce que c'est »
- Cours recommandé : Créer un assistant IA pour votre produit (sa leçon sur les garde-fous est approfondie ici).
- Cours recommandé : Concevoir des agents et du tool calling fiables (injection par les sorties d'outils d'un agent).
- Ce cours ne remplace ni un audit de sécurité ni l'avis d'un juriste : il vous prépare à les mener et à les relire.
Programme
Que vais-je produire dans ce cours, et dans quel ordre ?
- Présentation du cours2 étapes
Objectif · À la fin de cette présentation, vous saurez ce que vous allez produire (le dossier de sécurité et de conformité IA de votre produit en cinq pièces : registre des risques, garde-fous spécifiés, plan d'opérations, analyse AI Act, transparence et RGPD) et dans quel ordre les cinq modules vous y conduisent.
Par où un produit IA peut-il être attaqué, et comment prioriser ce qu'on protège ?
Objectif · À la fin de cette leçon, vous serez capable de dresser la surface d'attaque d'une fonctionnalité IA, de la passer aux dix catégories de l'OWASP Top 10 pour les applications LLM 2025, et d'en tirer un registre des risques priorisé par probabilité et impact.
Objectif · À la fin de cette leçon, vous serez capable de distinguer injection directe, injection indirecte et jailbreak, de lister tous les points d'entrée d'une injection dans votre produit, et de décider ce qui peut ou non figurer dans un system prompt.
Comment une attaque fait-elle sortir des données ou déclencher des actions, et où la couper ?
Objectif · À la fin de cette leçon, vous serez capable de repérer les canaux par lesquels une injection peut faire sortir des données (outils, requêtes, images, liens, index RAG), de dire si votre produit réunit la trifecta létale et de choisir l'élément à retirer.
Objectif · À la fin de cette leçon, vous serez capable d'associer chaque sortie du modèle à son consommateur et au contrôle qui la rend sûre, de réduire les fonctionnalités, droits et autonomie d'une fonctionnalité IA au nécessaire, et de spécifier les limites qui bornent sa consommation.
Quels garde-fous spécifier, comment savoir s'ils tiennent, et que faire le jour de l'incident ?
Objectif · À la fin de cette leçon, vous serez capable de choisir, pour chaque risque du registre, des garde-fous dans plusieurs couches (entrée, contexte, actions, sortie, opérations), de distinguer ceux qui bornent le risque de ceux qui le réduisent, et de les spécifier avec un critère testable et un coût.
Objectif · À la fin de cette leçon, vous serez capable de planifier une campagne de red teaming et le jeu de test adverse qui en sort, de choisir les signaux de surveillance des abus en production, et de rédiger le runbook d'incident d'une fonctionnalité IA, coupe-circuit et notifications compris.
Qu'impose l'AI Act à mon produit, à partir de quand, et comment l'articuler avec le RGPD ?
Objectif · À la fin de cette leçon, vous serez capable de qualifier chaque fonctionnalité IA de votre produit au regard de l'AI Act - système d'IA ou non, rôle de votre entreprise, niveau de risque, obligations et dates d'application après le Digital Omnibus - et de consigner cette analyse, datée, pour la relire avec un juriste.
Objectif · À la fin de cette leçon, vous serez capable de déterminer quelles obligations de l'article 50 de l'AI Act s'appliquent à vos fonctionnalités, d'en rédiger les mentions et les exigences produit, et de lister les points RGPD à vérifier avec votre DPO (rôles, base légale, information, minimisation, sous-traitance, analyse d'impact).
Le registre, les garde-fous et l'analyse AI Act de votre produit tiennent-ils la revue ?
Objectif · À la fin de cette leçon, vous serez capable d'assembler le dossier de sécurité et de conformité IA de votre produit (registre des risques, garde-fous spécifiés, plan d'opérations, analyse AI Act et points RGPD), de l'auto-évaluer avec la checklist du kit et de planifier son application à 7 et 30 jours.