Что такое Сейф содержимого ИИ Azure?

  • Статья

Содержимое ИИ Azure Сейф ty обнаруживает вредное содержимое, созданное пользователем и ИИ, в приложениях и службах. Контент ИИ Azure Сейф ty включает API текста и изображения, которые позволяют обнаруживать материалы, которые являются вредными. У нас также есть интерактивная среда Content Сейф ty Studio, которая позволяет просматривать, изучать и пробовать пример кода для обнаружения вредного содержимого в разных модальности.

Программное обеспечение фильтрации содержимого может помочь вашему приложению соответствовать нормативным требованиям или поддерживать предназначенную среду для пользователей.

Эта документация включает статьи следующих типов:

Где используется

Ниже приведены несколько сценариев, в которых разработчику программного обеспечения или команде требуется служба модерации контента:

  • интернет-магазины с модерацией каталогов продукции и создаваемого пользователями содержимого;
  • компании-разработчики игр, которые модерируют создаваемые пользователями игровые артефакты и чаты;
  • Социальные платформы обмена сообщениями, которые модерируют изображения и текст, добавленные пользователями.
  • корпоративные медиакомпании, внедряющие централизованную модерацию своего содержимого;
  • поставщики образовательных решений K-12, фильтрующие неуместное содержимое для учащихся и преподавателей.

Внимание

Вы не можете использовать содержимое ИИ Azure Сейф ty для обнаружения незаконных образов дочерней эксплуатации.

Типы продуктов

В этой службе доступны различные типы анализа. В следующей таблице описаны доступные в настоящее время API.

Тип Функция
Анализ API текста Сканирует текст для сексуального содержимого, насилия, ненависти и самоповредения с многоуровневыми уровнями серьезности.
Анализ API изображений Сканирует изображения сексуального содержимого, насилия, ненависти и самоповредения с многоуровневыми уровнями серьезности.
Экраны запроса (предварительная версия) Сканирует текст для риска атаки пользователей на крупную языковую модель. Краткое руководство
Обнаружение заземления (предварительная версия) Определяет, находятся ли текстовые ответы больших языковых моделей (LLM) в исходных материалах, предоставляемых пользователями. Краткое руководство
Обнаружение защищенного текста материалов (предварительная версия) Сканирует созданный ИИ текст для известного текстового содержимого (например, текст песни, статьи, рецепты, выбранное веб-содержимое). Краткое руководство

Содержимое Сейф ty Studio

Azure AI Content Сейф ty Studio — это онлайн-средство, предназначенное для обработки потенциально оскорбительных, рискованных или нежелательных материалов с помощью передовых моделей машинного обучения режим палатки. Он предоставляет шаблоны и настраиваемые рабочие процессы, позволяя пользователям выбирать и создавать собственную систему con режим палатки ration. Пользователи могут отправить собственное содержимое или попробовать его с предоставленным примером содержимого.

Контент Сейф ty Studio не только содержит стандартные модели ИИ, но и встроенные списки терминов Майкрософт, чтобы пометить ненормативность и оставаться в курсе новых тенденций. Вы также можете отправить собственные блок-списки, чтобы повысить охват вредного содержимого, относящееся к вашему варианту использования.

Студия также позволяет настроить рабочий процесс модерации, где можно непрерывно отслеживать и улучшать производительность модерации режим палатки. Это поможет вам удовлетворить требования к контенту от всех видов отраслей, таких как игры, медиа, образование, электронная коммерция и многое другое. Предприятия могут легко подключать свои службы к Студии и иметь свои недостатки режим палатки оценены в режиме реального времени, будь то созданные пользователем или ИИ.

Все эти возможности обрабатываются студией и серверной частью; клиентам не нужно беспокоиться о разработке моделей. Вы можете подключить данные для быстрой проверки и отслеживать ключевые показатели эффективности соответствующим образом, такие как технические метрики (задержка, точность, отзыв) или бизнес-метрики (скорость блокировки, объем блоков, пропорции категорий, языковые пропорции и многое другое). С помощью простых операций и конфигураций клиенты могут быстро тестировать различные решения и находить оптимальные варианты, а не тратить время на эксперименты с пользовательскими моделями или выполнять модерацию вручную.

Содержимое Сейф ty Studio

Функции Content Сейф ty Studio

В Content Сейф ty Studio доступны следующие функции службы содержимого ИИ Azure Сейф ty:

  • Умеренное текстовое содержимое. С помощью средства модерации текста можно легко выполнять тесты на текстовом содержимом. Независимо от того, хотите ли вы протестировать одно предложение или весь набор данных, наше средство предлагает удобный пользовательский интерфейс, который позволяет оценить результаты теста непосредственно на портале. Вы можете поэкспериментировать с различными уровнями конфиденциальности для настройки фильтров содержимого и управления блок-списками, гарантируя, что содержимое всегда модерировано до точных спецификаций. Кроме того, с возможностью экспорта кода вы можете реализовать средство непосредственно в приложении, оптимизируя рабочий процесс и экономя время.

  • Умеренное содержимое изображения. С помощью средства модерации изображений можно легко выполнять тесты на изображениях, чтобы обеспечить соответствие стандартам содержимого. Наш пользовательский интерфейс позволяет оценить результаты теста непосредственно на портале, и вы можете экспериментировать с различными уровнями конфиденциальности для настройки фильтров содержимого. После настройки параметров можно легко экспортировать код для реализации средства в приложении.

  • Мониторинг активности в Интернете: мощная страница мониторинга позволяет легко отслеживать использование и тенденции использования API модерации в различных модальности. С помощью этой функции вы можете получить доступ к подробным сведениям об ответе, включая распределение категорий и серьезности, задержку, ошибку и обнаружение списка блокировок. Эта информация содержит полный обзор производительности con режим палатки ration, что позволяет оптимизировать рабочий процесс и убедиться, что содержимое всегда модерировано в соответствии с вашими точными спецификациями. С помощью нашего пользовательского интерфейса вы можете быстро и легко перейти на страницу мониторинга, чтобы получить доступ к информации, необходимой для принятия обоснованных решений о стратегии con режим палатки ration. У вас есть инструменты, необходимые для того, чтобы оставаться на вершине вашей режим палатки производительности и достичь целей содержимого.

Требования к входным данным

Максимальная длина по умолчанию для отправки текста составляет 10 000 символов. Если вам нужно проанализировать более длинные блоки текста, можно разделить входной текст (например, препинание или интервал) по нескольким связанным представлениям.

Максимальный размер отправки изображений составляет 4 МБ, а размеры изображения должны составлять от 50 x 50 пикселей до 2 048 x 2048 пикселей. Изображения могут быть в форматах JPEG, PNG, GIF, BMP, TIFF или WEBP.

Безопасность

Использование идентификатора Microsoft Entra или управляемого удостоверения для управления доступом

Для повышения безопасности можно использовать идентификатор Microsoft Entra или Управляемое удостоверение (MI) для управления доступом к ресурсам.

  • Управляемое удостоверение автоматически включено при создании ресурса Content Сейф ty.
  • Идентификатор Microsoft Entra поддерживается как в сценариях API, так и в пакетах SDK. Ознакомьтесь с общим руководством по службам искусственного интеллекта для проверки подлинности с помощью идентификатора Microsoft Entra. Вы также можете предоставить доступ другим пользователям в организации, назначив им роли пользователей и читателей Cognitive Services. Дополнительные сведения о предоставлении пользователям доступа к ресурсам Azure с помощью портал Azure см. в руководстве по управлению доступом на основе ролей.

Шифрование неактивных данных

Узнайте, как содержимое ИИ Azure Сейф обрабатывает шифрование и расшифровку данных. Управляемые клиентом ключи (CMK), также известные как "Принести собственный ключ" (BYOK), обеспечивают большую гибкость для создания, поворота, отключения и отзыва элементов управления доступом. Они также дают возможность выполнять аудит ключей шифрования, используемых для защиты ваших данных.

Цены

В настоящее время Сейф содержимого ИИ Azure имеет ценовую категорию F0 и S0.

Лимиты служб

Поддержка языков

Модели содержимого Сейф ty специально обучены и протестированы на следующих языках: английский, немецкий, японский, испанский, французский, итальянский, португальский и китайский. Однако служба может работать на многих других языках, но качество может отличаться. В любом случае вам следует провести собственное тестирование, чтобы убедиться, что она работает для вашего приложения.

Дополнительные сведения см. в разделе "Поддержка языков".

Регион или расположение

Чтобы использовать API содержимого Сейф ty, необходимо создать ресурс содержимого ИИ Azure Сейф ty в поддерживаемых регионах. В настоящее время он доступен в следующих регионах Azure:

  • Восточная Австралия
  • Восточная Канада
  • Центральная часть США
  • Восточная часть США
  • Восточная часть США 2
  • Центральная Франция
  • Восточная Япония
  • Центрально-северная часть США
  • Центрально-южная часть США
  • Северная Швейцария
  • южная часть Соединенного Королевства
  • Западная Европа
  • западная часть США 2
  • Центральная Швеция

Общедоступные предварительные версии функции, такие как экраны запросов и защищенное обнаружение материалов, доступны в следующих регионах Azure:

  • Восточная часть США
  • Западная Европа

Обратитесь к нам , если вам нужны другие регионы для вашего бизнеса.

Скорость запросов

Ценовая категория Запросы в 10 секунд (RPS)
F0 1000
S0 1000

Если вам нужна более быстрая ставка, обратитесь к нам , чтобы запросить.

Свяжитесь с нами

Если вы застряли, отправьте нам сообщение электронной почты или используйте мини-приложение обратной связи в правом верхнем углу любой страницы документации.

Следующие шаги

Следуйте краткому руководству, чтобы приступить к работе с содержимым ИИ Azure Сейф ty в приложении.

Краткое руководство по Сейф содержимого