Контейнеры Azure Cognitive ServicesAzure Cognitive Services containers

Azure Cognitive Services предоставляет несколько контейнеров DOCKER , которые позволяют использовать те же интерфейсы API, которые доступны в Azure локально.Azure Cognitive Services provides several Docker containers that let you use the same APIs that are available in Azure, on-premises. Используя эти контейнеры, вы получаете возможность Cognitive Services ближе к вашим данным для обеспечения соответствия требованиям, безопасности или других эксплуатационных причин.Using these containers gives you the flexibility to bring Cognitive Services closer to your data for compliance, security or other operational reasons. В настоящее время поддержка контейнеров доступна для подмножества Cognitive Services Azure.Container support is currently available for a subset of Azure Cognitive Services.

Контейнеризация — это подход к распространению программного обеспечения, при котором приложение или служба упаковывается в образ контейнера вместе со всеми зависимостями и конфигурациями.Containerization is an approach to software distribution in which an application or service, including its dependencies & configuration, is packaged together as a container image. Образ контейнера можно развертывать на узле контейнера с незначительной модификацией или без нее.With little or no modification, a container image can be deployed on a container host. Контейнеры изолированы друг от друга и от базовой операционной системы. При этом они расходуют меньше ресурсов, чем виртуальная машина.Containers are isolated from each other and the underlying operating system, with a smaller footprint than a virtual machine. Контейнеры для краткосрочных задач можно создавать на основе образов контейнеров и удалять их, когда они станут ненужными.Containers can be instantiated from container images for short-term tasks, and removed when no longer needed.

Возможности и преимущества:Features and benefits

  • Неизменяемая инфраструктура. Включите DevOps Teams, чтобы использовать согласованный и надежный набор известных системных параметров, в то время как можно адаптироваться к изменению.Immutable infrastructure: Enable DevOps teams' to leverage a consistent and reliable set of known system parameters, while being able to adapt to change. Контейнеры обеспечивают гибкость в прогнозировании в прогнозируемой экосистеме и позволяют избежать перенастройки.Containers provide the flexibility to pivot within a predictable ecosystem and avoid configuration drift.
  • Управление данными: выбор места обработки данных с помощью Cognitive Services.Control over data: Choose where your data gets processed by Cognitive Services. Это может быть важно, если не удается отправить данные в облако, но требуется доступ к API-интерфейсы Cognitive Services.This can be essential if you can't send data to the cloud but need access to Cognitive Services APIs. Поддержка согласованности в гибридной среде, в том числе данных, управления, идентификатора и безопасности.Support consistency in hybrid environments – across data, management, identity, and security.
  • Управление обновлениями модели. гибкость в управлении версиями и обновлении моделей, развернутых в их решениях.Control over model updates: Flexibility in versioning and updating of models deployed in their solutions.
  • Переносимая архитектура. позволяет создавать переносимую архитектуру приложений, которая может быть развернута в Azure, в локальной среде и на границе.Portable architecture: Enables the creation of a portable application architecture that can be deployed on Azure, on-premises and the edge. Контейнеры можно развертывать непосредственно в Службе Azure Kubernetes, Экземплярах контейнеров Azure или в кластере Kubernetes, развернутом в Azure Stack.Containers can be deployed directly to Azure Kubernetes Service, Azure Container Instances, or to a Kubernetes cluster deployed to Azure Stack. Дополнительные сведения см. в статье Развертывание Kubernetes в Azure Stack.For more information, see Deploy Kubernetes to Azure Stack.
  • Высокая пропускная способность и низкая задержка. Предоставьте клиентам возможность масштабирования для повышения пропускной способности и низкой задержки, позволяя Cognitive Services физически близко к логике приложения и данным.High throughput / low latency: Provide customers the ability to scale for high throughput and low latency requirements by enabling Cognitive Services to run physically close to their application logic and data. Контейнеры не ограничивают число транзакций в секунду (TPS), и их можно увеличивать и уменьшать для удовлетворения спроса, предоставив необходимые аппаратные ресурсы.Containers do not cap transactions per second (TPS) and can be made to scale both up and out to handle demand if you provide the necessary hardware resources.
  • Масштабируемость: благодаря постоянно растущему популярности программного обеспечения для управления контейнерами и управления контейнерами, например Kubernetes; масштабируемость — это в плане развития технологических улучшений.Scalability: With the ever growing popularity of containerization and container orchestration software, such as Kubernetes; scalability is at the forefront of technological advancements. Основываясь на масштабируемой кластерной среде, разработка приложений предусматривает высокий уровень доступности.Building on a scalable cluster foundation, application development caters to high availability.

Контейнеры в Azure Cognitive ServicesContainers in Azure Cognitive Services

Контейнеры Cognitive Services Azure предоставляют следующий набор контейнеров DOCKER, каждый из которых содержит подмножество функциональных возможностей служб в Azure Cognitive Services.Azure Cognitive Services containers provide the following set of Docker containers, each of which contains a subset of functionality from services in Azure Cognitive Services. Инструкции и расположения изображений можно найти в приведенных ниже таблицах.You can find instructions and image locations in the tables below. Также доступен список образов контейнеров .A list of container images is also available.

Контейнеры принятия решенийDecision containers

СлужбаService КонтейнерContainer ОписаниеDescription ДоступностьAvailability
Детектор аномалийAnomaly detector Детектор аномалий (изображение)Anomaly Detector (image) API Детектор аномалий позволяет отслеживать и обнаруживать отклонения в данных временных рядов с помощью машинного обучения.The Anomaly Detector API enables you to monitor and detect abnormalities in your time series data with machine learning. Общедоступная версияGenerally available

Контейнеры для работы с языкомLanguage containers

СлужбаService КонтейнерContainer ОписаниеDescription ДоступностьAvailability
LUISLUIS LUIS (образ)LUIS (image) Загружает обученную или опубликованную модель Распознавания речи, также известную как приложение LUIS, в контейнер Docker и предоставляет доступ к прогнозам запроса из конечных точек API контейнера.Loads a trained or published Language Understanding model, also known as a LUIS app, into a docker container and provides access to the query predictions from the container's API endpoints. Можно собирать журналы запросов из контейнера и отправлять их обратно на портал LUIS для повышения точности прогнозов приложения.You can collect query logs from the container and upload these back to the LUIS portal to improve the app's prediction accuracy. Общедоступная версияGenerally available
Анализ текстаText Analytics Извлечение ключевых фраз (изображение)Key Phrase Extraction (image) Извлекает ключевые фразы для определения основных идей текста.Extracts key phrases to identify the main points. Например, для входного текста "Еда была вкусной и персонал был замечательным" API вернет основные тезисы в записи: "еда" и "замечательный персонал".For example, for the input text "The food was delicious and there were wonderful staff", the API returns the main talking points: "food" and "wonderful staff". Preview (Предварительный просмотр)Preview
Анализ текстаText Analytics Распознавание языка текста (изображение)Text Language Detection (image) Решение может определить язык введенного текста (поддерживается более 120 языков) и сообщить один код языка для каждого документа, отправленного в запросе.For up to 120 languages, detects which language the input text is written in and report a single language code for every document submitted on the request. Код языка сопряжен с показателем, указывающим степень оценки.The language code is paired with a score indicating the strength of the score. Preview (Предварительный просмотр)Preview
Анализ текстаText Analytics Анализ тональности v3 (изображение)Sentiment Analysis v3 (image) Анализирует необработанный текст на предмет положительной или отрицательной тональности.Analyzes raw text for clues about positive or negative sentiment. Эта версия анализа тональности возвращает метки тональности (например, положительный или отрицательный) для каждого документа и предложения внутри него.This version of sentiment analysis returns sentiment labels (for example positive or negative) for each document and sentence within it. Общедоступная версияGenerally available
Анализ текстаText Analytics Анализ текста для сферы здравоохраненияText Analytics for health Извлеките и пометка медицинских данных из неструктурированного текста клинической практике.Extract and label medical information from unstructured clinical text. Предварительный просмотр с проверкой.Gated preview. Запрос доступа.Request access.

Контейнеры РечиSpeech containers

Примечание

Чтобы использовать речевые контейнеры, необходимо выполнить форму запроса в Интернете.To use Speech containers, you will need to complete an online request form.

СлужбаService КонтейнерContainer ОписаниеDescription ДоступностьAvailability
API службы "Речь"Speech Service API Преобразование речи в текст (изображение)Speech-to-text (image) Расшифровывает непрерывную речь в режиме реального времени в текстовый формат.Transcribes continuous real-time speech into text. Общедоступная версияGenerally available
API службы "Речь"Speech Service API Пользовательское распознавание речи к тексту (изображение)Custom Speech-to-text (image) Расшифровывает непрерывной речи в режиме реального времени в текст с помощью пользовательской модели.Transcribes continuous real-time speech into text using a custom model. Общедоступная версияGenerally available
API службы "Речь"Speech Service API Преобразование текста в речь (изображение)Text-to-speech (image) Преобразует текст в естественно звучащую речь.Converts text to natural-sounding speech. Общедоступная версияGenerally available
API службы "Речь"Speech Service API Пользовательский текст в речь (изображение)Custom Text-to-speech (image) Преобразует текст в голосовую речь с помощью пользовательской модели.Converts text to natural-sounding speech using a custom model. Предварительный просмотр с проверкойGated preview
API службы "Речь"Speech Service API Текст нейронной речи (изображение)Neural Text-to-speech (image) Преобразует текст в голосовую речь с помощью технологии глубокой нейронной сети, обеспечивая более естественную синтезированную речь.Converts text to natural-sounding speech using deep neural network technology, allowing for more natural synthesized speech. Общедоступная версияGenerally available
API службы "Речь"Speech Service API Определение языка распознавания речи (изображение)Speech language detection (image) Определяет язык речевого звука.Determines the language of spoken audio. Предварительный просмотр с проверкойGated preview

Контейнеры Компьютерного зренияVision containers

Предупреждение

11 июня 2020 г. корпорация Майкрософт объявила о том, что она не будет продавать технологию распознавания лиц полицейским управлениям в США до тех пор, пока не вступят силу строгие правовые нормы, гарантирующие защиту прав человека.On June 11, 2020, Microsoft announced that it will not sell facial recognition technology to police departments in the United States until strong regulation, grounded in human rights, has been enacted. Таким образом, клиенты не смогут использовать возможности по распознаванию лиц или функции, включенные в службы Azure, такие как Распознавание лиц или Индексатор видео, если клиент является сотрудником полицейского управления США или разрешает использование таких служб управлением или для управления.As such, customers may not use facial recognition features or functionality included in Azure Services, such as Face or Video Indexer, if a customer is, or is allowing use of such services by or for, a police department in the United States.

СлужбаService КонтейнерContainer ОписаниеDescription ДоступностьAvailability
Компьютерное зрениеComputer Vision Чтение с оптического распознавания текста (изображение)Read OCR (image) Контейнер для чтения и распознавания текста позволяет извлекать печатные и рукописные тексты из изображений и документов с поддержкой форматов JPEG, PNG, BMP, PDF и TIFF.The Read OCR container allows you to extract printed and handwritten text from images and documents with support for JPEG, PNG, BMP, PDF, and TIFF file formats. Дополнительные сведения см. в документации по API чтения.For more information, see the Read API documentation. Предварительный просмотр с проверкой.Gated preview. Запрос доступа.Request access.
Пространственный анализSpatial Analysis Пространственный анализ (изображение)Spatial analysis (image) Анализирует потоковую передачу видео в реальном времени, чтобы понять пространственные отношения между людьми, их движением и взаимодействием с объектами в физических средах.Analyzes real-time streaming video to understand spatial relationships between people, their movement, and interactions with objects in physical environments. Предварительный просмотр с проверкой.Gated preview. Запрос доступа.Request access.
Распознавание лицFace Распознавание лицFace Обнаруживает человеческие лица на изображениях и определяет методом машинного прогнозирования их характеристики, например черты лица (нос, глаза и т. д.), пол, возраст и многое другое.Detects human faces in images, and identifies attributes, including face landmarks (such as noses and eyes), gender, age, and other machine-predicted facial features. Кроме обнаружения лиц, API может сравнивать два лица на одном или на разных изображениях, используя оценку достоверности, а также искать по базе данных похожие или идентичные лица.In addition to detection, Face can check if two faces in the same image or different images are the same by using a confidence score, or compare faces against a database to see if a similar-looking or identical face already exists. Схожие лица можно упорядочивать в группы по близким визуальным характеристикам.It can also organize similar faces into groups, using shared visual traits. НедоступноUnavailable
Распознаватель формForm recognizer Распознаватель документовForm Recognizer Понимание форм применяет технологию машинного обучения для обнаружения и извлечения пар "ключ-значение" и таблиц из форм.Form Understanding applies machine learning technology to identify and extract key-value pairs and tables from forms. НедоступноUnavailable

Кроме того, некоторые контейнеры поддерживаются в предложении Cognitive Services нескольких сервисных ресурсов .Additionally, some containers are supported in the Cognitive Services multi-service resource offering. Вы можете создать один Cognitive Services ресурс "все в одном" и использовать один и тот же ключ выставления счетов в поддерживаемых службах для следующих служб:You can create one single Cognitive Services All-In-One resource and use the same billing key across supported services for the following services:

  • API Компьютерного зренияComputer Vision
  • Распознавание лицFace
  • LUISLUIS
  • Анализ текстаText Analytics

Предварительные условияPrerequisites

Прежде чем использовать контейнеры Azure Cognitive Services, необходимо выполнить указанные ниже предварительные требования.You must satisfy the following prerequisites before using Azure Cognitive Services containers:

Модуль Docker. Модуль Docker нужно установить в локальной среде.Docker Engine: You must have Docker Engine installed locally. Docker предоставляет пакеты для настройки среды с Docker для macOS, Linux и Windows.Docker provides packages that configure the Docker environment on macOS, Linux, and Windows. В Windows Docker нужно настроить для поддержки контейнеров Linux.On Windows, Docker must be configured to support Linux containers. Контейнеры Docker можно также развертывать непосредственно в Службе Azure Kubernetes или Экземплярах контейнеров Azure.Docker containers can also be deployed directly to Azure Kubernetes Service or Azure Container Instances.

Docker нужно настроить таким образом, чтобы контейнеры могли подключать и отправлять данные о выставлении счетов в Azure.Docker must be configured to allow the containers to connect with and send billing data to Azure.

Опыт работы с Реестром контейнеров Майкрософт и Docker. Требуется базовое представление о Реестре контейнеров Майкрософт и понятиях Docker, таких как реестры, репозитории, контейнеры и образы контейнеров, а также знание основных команд docker.Familiarity with Microsoft Container Registry and Docker: You should have a basic understanding of both Microsoft Container Registry and Docker concepts, like registries, repositories, containers, and container images, as well as knowledge of basic docker commands.

Ознакомьтесь с общими сведениями о Docker и контейнерах.For a primer on Docker and container basics, see the Docker overview.

Для некоторых контейнеров могут действовать дополнительные требования, в том числе к характеристикам сервера и (или) объему памяти.Individual containers can have their own requirements, as well, including server and memory allocation requirements.

Безопасность контейнера Cognitive Services AzureAzure Cognitive Services container security

Безопасность должна быть основной задачей при разработке приложений.Security should be a primary focus whenever you're developing applications. Важность безопасности является метрикой успеха.The importance of security is a metric for success. При проектировании программного решения, включающего Cognitive Services контейнеры, крайне важно понимать ограничения и возможности, доступные вам.When you're architecting a software solution that includes Cognitive Services containers, it's vital to understand the limitations and capabilities available to you. Дополнительные сведения о сетевой безопасности см. в статье Настройка виртуальных сетей Azure Cognitive Services.For more information about network security, see Configure Azure Cognitive Services virtual networks.

Важно!

По умолчанию в API контейнера Cognitive Services нет безопасности .By default there is no security on the Cognitive Services container API. Это связано с тем, что чаще всего контейнер будет работать как часть Pod, которая защищена извне сетевым мостом.The reason for this is that most often the container will run as part of a pod which is protected from the outside by a network bridge. Однако можно включить проверку подлинности, которая работает аналогично проверке подлинности, используемой при доступе к облачной Cognitive Services.However, it is possible to enable authentication which works identically to the authentication used when accessing the cloud-based Cognitive Services.

На схеме ниже показан подход по умолчанию и небезопасный метод.The diagram below illustrates the default and non-secure approach:

Безопасность контейнера

В качестве альтернативного и безопасного подхода потребители Cognitive Services контейнеры могут расширить контейнер с интерфейсным компонентом, сохранив конечную точку контейнера закрытой.As an alternative and secure approach, consumers of Cognitive Services containers could augment a container with a front-facing component, keeping the container endpoint private. Рассмотрим ситуацию, когда мы используем Istio в качестве входящего шлюза.Let's consider a scenario where we use Istio as an ingress gateway. Istio поддерживает HTTPS/TLS и проверку подлинности на основе сертификата клиента.Istio supports HTTPS/TLS and client-certificate authentication. В этом сценарии интерфейс Istio предоставляет доступ к контейнеру, представляя сертификат клиента, который утверждается заранее с помощью Istio.In this scenario, the Istio frontend exposes the container access, presenting the client certificate that is approved beforehand with Istio.

Nginx — это еще один популярный вариант в той же категории.Nginx is another popular choice in the same category. Как Istio, так и nginx выступают в качестве сетки службы и предлагают дополнительные функции, такие как балансировка нагрузки, маршрутизация и контроль скорости.Both Istio and Nginx act as a service mesh and offer additional features including things like load-balancing, routing, and rate-control.

Работа с контейнерами в сетиContainer networking

Контейнеры Cognitive Services необходимы для отправки сведений о метриках в целях выставления счетов.The Cognitive Services containers are required to submit metering information for billing purposes. Если не разрешить перечисление различных сетевых каналов, от которых зависит контейнер Cognitive Services, не позволит контейнеру работать.Failure to allow list various network channels that the Cognitive Services containers rely on will prevent the container from working.

Разрешить список доменов и портов Cognitive ServicesAllow list Cognitive Services domains and ports

Узел должен разрешить порты 443 и следующие домены:The host should allow list port 443 and the following domains:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

Отключение глубокой проверки пакетовDisable deep packet inspection

Глубокая проверка пакетов (DPI) — это тип обработки данных, который подробно анализирует данные, передаваемые по компьютерной сети, и обычно выполняет действия путем блокировки, повторной маршрутизации или ведения журнала.Deep packet inspection (DPI) is a type of data processing that inspects in detail the data being sent over a computer network, and usually takes action by blocking, re-routing, or logging it accordingly.

Отключите DPI на защищенных каналах, которые контейнеры Cognitive Services создают на серверах Майкрософт.Disable DPI on the secure channels that the Cognitive Services containers create to Microsoft servers. В противном случае контейнер будет некорректно работать.Failure to do so will prevent the container from functioning correctly.

Примеры для разработчиковDeveloper samples

Примеры для разработчиков доступны в нашем репозитории GitHub.Developer samples are available at our GitHub repository.

Дальнейшие действияNext steps

Узнайте о рецептах контейнеров , которые можно использовать с Cognitive Services.Learn about container recipes you can use with the Cognitive Services.

Установите и изучите функциональные возможности, предоставляемые контейнерами в Azure Cognitive Services:Install and explore the functionality provided by containers in Azure Cognitive Services: