Aller au contenu
Module
Module 5 sur 6Leçon 2 sur 2~14 min

Concevoir des garde-fous en couches

Fuite de données, réponses hors sujet, actions non autorisées : les risques d'un assistant intégré ne se règlent pas avec une phrase dans le prompt. Cette leçon vous aide à identifier les menaces qui concernent votre produit et à répartir les protections sur plusieurs couches, de l'autorisation jusqu'à la surveillance.

Mis à jour le 28 septembre 2026.

En bref

Les garde-fous d'un assistant IA sont les protections qui limitent ses risques : fuite de données, réponses hors sujet, actions non autorisées ou détournement par injection de prompt. Une consigne dans le prompt ne suffit pas, car le modèle peut être contourné : les protections se répartissent en couches, de l'autorisation jusqu'à la surveillance en production.

Objectif de la leçon

À la fin de cette leçon, vous serez capable d'identifier les principaux risques d'un assistant intégré et de placer chaque garde-fou dans la bonne couche (autorisation, entrée, modèle, outils, sortie, surveillance).

Les questions auxquelles cette leçon répond

  • Quels garde-fous mettre en place sur un assistant IA intégré à un produit ?

    Des protections à plusieurs niveaux : contrôle des droits d'accès, filtrage des entrées, consignes au modèle, limites sur les outils, vérification des sorties et surveillance en production.

  • Comment protéger un chatbot contre l'injection de prompt ?

    En partant du principe qu'elle finira par passer : limitez ce que l'assistant peut voir et faire, séparez les instructions des contenus externes et contrôlez les actions sensibles hors du modèle.

  • Pourquoi une consigne dans le prompt ne suffit-elle pas à sécuriser un assistant ?

    Parce qu'un modèle suit des consignes de façon probabiliste et peut être manipulé par le texte qu'il lit. Les vraies garanties, comme les permissions, doivent être appliquées par le code.

Thèmes abordés

  • garde-fous IA
  • sécurité d'un assistant IA
  • modèle de menaces
  • injection de prompt
  • IA responsable

Dans le glossaire

Tout le glossaire

Guide sur ce thème

Dans quel module

Actions et garde-fous

Que peut faire l'assistant, et comment l'empêcher de faire ce qu'il ne doit pas ?

Leçons du module

  1. Spécifier les outils et actions de l'assistant
  2. Concevoir des garde-fous en couches (cette leçon)

Ce que vous apprendrez dans la formation

Cette leçon fait partie de la formation Créer un assistant IA pour votre produit