Surveillance des abus

  • Article

Le service Azure OpenAI Service détecte et atténue des instances de contenu et/ou de comportements récurrents qui suggèrent l’utilisation du service d’une manière susceptible de violer le Code de conduite ou d’autres conditions applicables du produit. Vous trouverez plus d’informations sur la façon dont les données sont gérées sur la page Données, confidentialité et sécurité. Appliquez la surveillance modifiée des abus à l’aide de ce formulaire : Révision d’accès limitée Azure OpenAI : Surveillance modifiée des abus.

Composants de la surveillance des abus

La surveillance des abus comporte plusieurs composants :

  • Classification du contenu : les modèles de classifieurs détectent le langage et/ou les images nuisibles dans des invites utilisateur (entrées) et des saisies semi-automatiques (sorties). Le système recherche des catégories de dommages telles que définies dans les Exigences de contenu et attribue des niveaux de gravité comme décrit de manière plus détaillée dans la page Filtrage du contenu.

  • Capture des modèles d’abus : la surveillance des abus du service Azure OpenAI Service examine des modèles d’utilisation des clients et utilise des algorithmes et des heuristiques pour détecter des indicateurs d’abus potentiels. Les modèles détectés prennent en compte, par exemple, la fréquence et la gravité auxquelles du contenu nuisible est détecté dans les invites et les saisies semi-automatiques d’un client.

  • Révision et décision humaines : lorsque des invites et/ou des saisies semi-automatiques sont marquées via la classification du contenu et la capture de modèles d’abus, comme décrit ci-dessus, des employés autorisés de Microsoft peuvent évaluer le contenu marqué et confirmer ou corriger la classification ou la détermination en fonction de directives et de stratégies prédéfinies. Les données ne sont accessibles à des fins de révision humaine que par des employés autorisés de Microsoft via des stations de travail à accès sécurisé (SAW) avec l’approbation de demande juste-à-temps (JIT) accordée par des responsables d’équipe. Pour des ressources du service Azure OpenAI Service déployées dans l’Espace économique européen, les employés de Microsoft autorisés se trouvent dans l’Espace économique européen.

  • Notification et action : lorsqu’un seuil de comportement abusif a été confirmé sur la base des trois étapes précédentes, le client est informé de la détermination par e-mail. Sauf dans des cas d’abus graves ou récurrents, les clients ont généralement la possibilité d’expliquer ou de corriger et d’implémenter des mécanismes pour empêcher la répétition du comportement abusif. L’absence de traitement du comportement, ou un abus récurrent ou grave, peut entraîner la suspension ou l’arrêt de l’accès du client aux ressources et/ou fonctionnalités Azure OpenAI.

Étapes suivantes