aks Модуль

Содержит функциональные возможности для развертывания моделей машинного обучения в качестве конечных точек веб-службы в Службе Azure Kubernetes.

Службу Azure Kubernetes (AKS) рекомендуется использовать для сценариев, требующих полной оркестрации контейнеров, включая поиск служб по нескольким контейнерам, автоматическое масштабирование и координированное обновление приложений.

Дополнительные сведения приведены в статье Развертывание модели в Службе Azure Kubernetes.

Классы

AksEndpoint

Примечание

Это экспериментальный класс, который может быть изменен в любое время. Дополнительные сведения см. по адресу https://aka.ms/azuremlexperimental.

Представляет коллекцию версий веб-службы, расположенных за той же конечной точкой, которая выполняется в Службе Azure Kubernetes.

В то время как AksWebservice развертывает единую службу с единой конечной точкой оценки, класс AksEndpoint позволяет развертывать несколько версий веб-службы за одной и той же конечной точкой оценки. Каждая версия веб-службы может быть настроена для обслуживания определенного процента трафика, что позволяет развертывать модели в управляемом виде, например, для тестирования A/B. AksEndpoint позволяет выполнять развертывание из объекта модели, подобного AksWebservice.

Инициализируйте экземпляр Webservice.

Конструктор Webservice извлекает облачное представление объекта Webservice, связанного с предоставленной рабочей областью. Он вернет экземпляр дочернего класса, соответствующий конкретному типу полученного объекта Webservice.

AksEndpointDeploymentConfiguration

Примечание

Это экспериментальный класс, который может быть изменен в любое время. Дополнительные сведения см. по адресу https://aka.ms/azuremlexperimental.

Представляет сведения о конфигурации развертывания для службы, развернутой в Службе Kubernetes Azure.

Создает объект AksEndpointDeploymentConfiguration с помощью метода deploy_configuration класса AksEndpoint.

Инициализируйте объект конфигурации для развертывания конечной точки в целевом объекте вычислений AKS.

AksServiceAccessToken

Описывает маркер доступа, который может быть указан в заголовке авторизации запросов оценки к веб-службе.

Создайте новый экземпляр WebServiceAccessToken.

AksServiceDeploymentConfiguration

Представляет сведения о конфигурации развертывания для службы, развернутой в Службе Kubernetes Azure.

Создает объект AksServiceDeploymentConfiguration с помощью метода deploy_configuration классаAksWebservice.

Инициализация объекта конфигурации для развертывания в целевом объекте вычислений AKS.

AksWebservice

Представляет модель машинного обучения, развернутую в качестве конечной точки веб-службы в Службе Kubernetes Azure.

Развернутая служба создается из модели, скрипта и связанных файлов. Результирующая веб-служба — это конечная точка HTTP с балансировкой нагрузки с API REST. Через этот API вы можете отправлять данные в модель и получать от нее прогнозы.

AksWebservice развертывает одну службу в одной конечной точке. Чтобы развернуть несколько служб в одной конечной точке, используйте класс AksEndpoint.

Дополнительные сведения приведены в статье Развертывание модели в кластере Службы Azure Kubernetes.

Инициализируйте экземпляр Webservice.

Конструктор Webservice извлекает облачное представление объекта Webservice, связанного с предоставленной рабочей областью. Он вернет экземпляр дочернего класса, соответствующий конкретному типу полученного объекта Webservice.

AutoScaler

Определяет сведения для конфигурации автомасштабирования AksWebservice.

Значения конфигурации автомасштабирования задаются с помощью методов deploy_configuration или update класса AksWebservice.

Инициализируйте средство автомасштабирования AKS.

ContainerResourceRequirements

Определяет требования к ресурсам для контейнера, используемого веб-службой.

Значения ContainerResourceRequirement указываются при развертывании или обновлении веб-службы. Например, используйте методы deploy_configuration или update класса AksWebservice или методы create_version, deploy_configuration или update_version класса AksEndpoint.

Инициализируйте требования к ресурсам контейнера.

DataCollection

Определяет конфигурацию сбора данных для AksWebservice.

Инициализация объекта DataCollection.

LivenessProbeRequirements

Определяет требования к времени пробы активности для развертываний веб-службы.

Значения конфигурации LivenessProbeRequirements указываются при развертывании или обновлении объекта веб-службы. Например, используйте методы deploy_configuration или update класса AksWebservice или методы create_version, deploy_configuration или update_version класса AksEndpoint.

Инициализируйте требования к ресурсам контейнера.