Supervisión de abusos

  • Artículo

Azure OpenAI Service detecta y mitiga instancias de contenido periódico o comportamientos que sugieren el uso del servicio de una manera que puede infringir el Código de conducta u otros términos de producto aplicables. Puede encontrar detalles sobre cómo se administran los datos en la página Datos, privacidad y seguridad. Solicite la supervisión de abusos modificados mediante este formulario: Revisión de acceso limitado de Azure OpenAI: Supervisión de abuso modificado.

Componentes de la supervisión de abusos

Hay varios componentes en la supervisión de abusos:

  • Clasificación de contenido: los modelos de clasificación detectan imágenes o lenguaje dañinos en solicitudes de usuario (entradas) y finalizaciones (salidas). El sistema busca categorías de daños según se define en los Requisitos de contenido y asigna niveles de gravedad, tal y como se describe con más detalle en la página Filtrado de contenido.

  • Captura de patrones de abuso: la supervisión del abuso de Azure OpenAI Service examina los patrones de uso de los clientes y emplea algoritmos y heurística para detectar indicadores de posibles abusos. Los patrones detectados consideran, por ejemplo, la frecuencia y la gravedad en las que se detecta contenido dañino en las solicitudes y finalizaciones de un cliente.

  • Revisión y decisión humanas: cuando las solicitudes o finalizaciones se marcan a través de la clasificación de contenido y la captura de patrones de abuso, como se ha descrito anteriormente, los empleados autorizados de Microsoft pueden evaluar el contenido marcado y confirmar o corregir la clasificación o determinación en función de las directrices y directivas predefinidas. Solo los empleados autorizados de Microsoft pueden acceder a las datos para su revisión humana a través de estaciones de trabajo de acceso seguro (SAW) con la aprobación de solicitudes Just-In-Time (JIT) concedida por los administradores del equipo. En el caso de los recursos de Azure OpenAI Service implementados en el Espacio Económico Europeo, los empleados autorizados de Microsoft se encuentran en el Espacio Económico Europeo.

  • Notificación y acción: cuando se ha confirmado un umbral de comportamiento abusivo en función de los tres pasos anteriores, se le informa al cliente de la determinación por correo electrónico. Excepto en casos de abuso grave o recurrente, los clientes suelen tener la oportunidad de explicar o corregir el comportamiento abusivo (e implementar mecanismos para evitar la periodicidad). Si no se soluciona el comportamiento(o se trata de un abuso recurrente o grave), se puede suspender o finalizar el acceso del cliente a los recursos o funcionalidades de Azure OpenAI.

Pasos siguientes