Share via

Novedades de Seguridad del contenido de Azure AI

  • Artículo

Conozca las novedades del servicio. Estos elementos pueden ser notas de la versión, vídeos, entradas de blogs y otros tipos de información. Marque esta página para mantenerse al día respecto a nuevas características, mejoras, correcciones y actualizaciones de documentación.

Marzo de 2024

Versión preliminar pública de Escudos de avisos

Anteriormente conocida como detección de riesgo de jailbreak, esta característica actualizada detecta ataques de inyección de mensajes de usuario, en los que los usuarios aprovechan deliberadamente las vulnerabilidades del sistema para obtener el comportamiento no autorizado del modelo de lenguaje grande. Escudos de avisos analiza tanto los ataques directos de mensajes de usuario como los ataques indirectos que se insertan en documentos o imágenes de entrada. Consulte Escudos de avisos para obtener más información.

Versión preliminar pública de detección de la base

La API de detección de la base detecta si las respuestas de texto de los modelos de lenguaje grande (LLM) se basan en los materiales de origen proporcionados por los usuarios. La ausencia de base hace referencia a aquellas instancias en las que los LLM producen información no factual o inexacta de lo que estaba presente en los materiales de origen. Consulte Detección de la base para obtener más información.

Enero de 2024

Disponibilidad general del SDK de seguridad de contenido

El servicio Seguridad del contenido de Azure AI ahora está disponible con carácter general a través de los siguientes SDK de biblioteca cliente:

Importante

Las versiones preliminares públicas de los SDK de seguridad de contenido de Azure AI quedarán en desuso el 31 de marzo de 2024. Actualice las aplicaciones para que usen las versiones de disponibilidad general.

Noviembre de 2023

Evento de riesgo de jailbreak y detección de materiales protegidos (versión preliminar)

Las nuevas API de detección de riesgos de Jailbreak y detección de materiales protegidos le permiten mitigar algunos de los riesgos al usar inteligencia artificial generativa.

  • La detección de riesgos de Jailbreak examina el texto del riesgo de un ataque de jailbreak en un modelo de lenguaje grande. Guía de inicio rápido
  • La detección de texto de material protegido digitaliza el texto generado por la inteligencia artificial en busca de contenido de texto conocido (por ejemplo, letras de canciones, artículos, recetas, contenido web seleccionado). Guía de inicio rápido

El riesgo de jailbreak y la detección de material protegido están disponibles en las regiones de Azure Este de EE. UU. y Oeste de Europa.

Octubre de 2023

La seguridad del contenido de Azure AI está disponible con carácter general (GA)

El servicio Seguridad del contenido de Azure AI ahora está disponible con carácter general como servicio en la nube.

  • El servicio está disponible en muchas más regiones de Azure. Consulte Información general para obtener una lista.
  • Los formatos de retorno de las API de análisis han cambiado. Consulte los Inicios rápidos para ver los ejemplos más recientes.
  • Los nombres y los formatos devueltos de varias API han cambiado. Consulte la Guía de migración para obtener una lista completa de los cambios importantes. Otras guías e inicios rápidos ahora reflejan la versión de disponibilidad general.

SDK de Java y JavaScript para la seguridad de contenido de Azure AI

El servicio Seguridad del contenido de Azure AI ya está disponible a través de los SDK de Java y JavaScript. Los SDK están disponibles en Maven y npm. Siga un inicio rápido para comenzar.

Jul. de 2023

SDK de C# de Seguridad del contenido de Azure AI

El servicio de seguridad de contenido de Azure AI ya está disponible a través de un SDK de C#. El SDK está disponible en NuGet. Siga un inicio rápido para comenzar.

Mayo de 2023

Versión preliminar pública de Seguridad del contenido de Azure AI

Azure AI Content Safety detecta material potencialmente ofensivo, arriesgado o no deseado. Este servicio ofrece modelos de imagen y texto de última generación que detectan contenido problemático. Azure AI Content Safety ayuda a que las aplicaciones y los servicios sean más seguros frente al contenido dañino generado por el usuario y la IA. Siga un inicio rápido para comenzar.

Actualizaciones de servicios de Azure AI

Anuncios de actualización de Azure para los servicios de Azure AI