Actions d'application
Les règles de protection déterminent ce qui est sensible. Les actions d’application déterminent ce qui se passe quand un élément est détecté. Vous les réglez dans la page Règles de protection, dans l’onglet Politique d’application et dans la colonne Application du Catalogue des règles.
Les trois actions
Chaque règle a l’une de ces actions :
- Avertir : l’avertissement Vérification de sécurité apparaît, avec Assainir le prompt, Modifier le prompt et Envoyer quand même. La personne peut poursuivre, et le contournement est consigné.
- Bloquer : l’avertissement Bloqué par la politique apparaît, sans Envoyer quand même. La requête ne peut pas être envoyée tant que les données sensibles n’ont pas été retirées. Assainir le prompt et Modifier le prompt restent offerts; personne n’est donc coincé.
- Surveiller : aucun avertissement. La requête est envoyée et l’événement est consigné en silence. Utile pour observer avant de décider d’agir.
Pour voir ce que les gens voient, consultez Quand une requête est signalée.
Actions par défaut selon la sévérité
Vous n’avez pas à régler une action pour chaque règle. Chaque règle a un niveau de sévérité, et ce niveau détermine l’action par défaut :
| Niveau de sévérité | Action par défaut |
|---|---|
| Critique | Bloquer |
| Élevée | Bloquer |
| Moyenne-élevée | Avertir |
| Moyenne | Avertir |
| Faible | Avertir |
L’onglet Politique d’application présente ce tableau, avec le nombre de règles actives pour chaque niveau de sévérité.
Modifier l’action d’une règle
- Dans la page Règles de protection, ouvrez le Catalogue des règles.
- Dans la colonne Application de la règle, choisissez Avertir, Bloquer ou Surveiller. Pour revenir à l’action par défaut selon la sévérité, choisissez l’option Par défaut.
Une règle modifiée affiche Personnalisé sous son action. Elle apparaît aussi dans la carte Actions personnalisées de l’onglet Politique d’application, où Réinitialiser la remet à son action par défaut. Ainsi, les écarts à votre propre politique restent visibles.
Avant d’activer un blocage
Quand vous réglez une règle à Bloquer, une fenêtre intitulée Activer le blocage strict? indique ce que ce blocage aurait arrêté récemment, par exemple Au cours des 30 derniers jours, cela aurait bloqué 142 invite(s) provenant de 37 utilisateur(s). Vous pouvez alors :
- Cliquer sur Activer le blocage pour bloquer immédiatement.
- Cliquer sur Commencer par un avertissement (14 jours) pour avertir d’abord et bloquer plus tard. Consultez Lancement progressif d’un blocage.
- Cliquer sur Annuler pour garder l’action actuelle.
Considérez un nombre élevé comme un signal d’alerte. Soit ces données sont vraiment souvent collées dans des outils d’IA, et le blocage fait son travail, soit la règle se déclenche sur des éléments qui ne sont pas sensibles, et il faut d’abord corriger cela. En cas de doute, commencez par un lancement progressif.
Des règles plus strictes pour les outils d’IA plus risqués
Les outils d’IA ne présentent pas tous le même risque. L’Application selon le risque, dans l’onglet Politique d’application, vous permet de choisir un niveau de risque. Quand une requête est destinée à un outil d’IA de ce niveau de risque ou plus, les avertissements deviennent des blocages. Les mêmes données peuvent alors déclencher un avertissement dans votre outil d’entreprise approuvé et un blocage dans un outil gratuit à risque, sans deux ensembles de règles.
Bon à savoir :
- Seuls les avertissements sont renforcés. Une règle réglée à Surveiller reste silencieuse, et une règle réglée à Bloquer bloque déjà.
- Le niveau de risque de chaque outil d’IA provient de sa fiche d’évaluation, dans la page Plateformes surveillées.
Vérifier que tout fonctionne
Dans la page Événements, la carte Contournements indique la part des alertes que les gens ont envoyées quand même, et les règles qu’ils contournent le plus.
Cette liste est votre liste d’ajustements. Une règle en tête de liste est une règle que votre équipe contourne régulièrement. Soit elle se déclenche sur des données qui ne sont pas sensibles, et il faut la corriger, soit les données doivent vraiment être envoyées, et une exception convient mieux qu’un obstacle quotidien.