Share via

Шаги обновления для Экземпляры контейнеров Azure веб-служб до управляемых сетевых конечных точек

  • Статья

Управляемые сетевые конечные точки помогают развертывать модели машинного обучения готовым способом. Управляемые сетевые конечные точки работают с мощными машинами ЦП и GPU в Azure масштабируемым и полностью управляемым образом. Управляемые сетевые конечные точки отвечают за обслуживание, масштабирование, безопасность и мониторинг моделей, избавляя вас от накладных расходов на настройку и управление базовой инфраструктурой. Подробные сведения см. в статье Развертывание и оценка модели машинного обучения с помощью сетевой конечной точки.

Вы можете выполнить развертывание непосредственно в новом целевом объекте вычислений с помощью предыдущих моделей и сред или использовать предоставленные нами сценарии для экспорта текущих служб и последующего развертывания в новые вычислительные ресурсы, не затрагивая существующие службы. Если вы регулярно создаете и удаляете веб-службы Экземпляры контейнеров Azure (ACI), мы настоятельно рекомендуем развертывать их напрямую, а не использовать скрипты.

Важно!

URL-адрес оценки будет изменен после обновления. Например, URL-адрес оценки для веб-службы ACI имеет вид http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. URI оценки для управляемой сетевой конечной точки имеет вид https://endpoint-name.westus.inference.ml.azure.com/score.

Поддерживаемые сценарии и различия

Режим проверки подлинности

Для управляемой сетевой конечной точки проверка подлинности не поддерживается. Если вы используете скрипты обновления, они преобразуются в проверку подлинности ключа. Для проверки подлинности ключа будут использоваться исходные ключи. Также поддерживается проверка подлинности на основе маркеров.

TLS

Для службы ACI, защищенной с помощью ПРОТОКОЛА HTTPS, вам больше не нужно предоставлять собственные сертификаты, все управляемые сетевые конечные точки защищены с помощью TLS.

Пользовательское DNS-имя не поддерживается.

Требования к ресурсам

ContainerResourceRequirements не поддерживается, вы можете выбрать подходящий номер SKU для вывода. Средство обновления сопоставит требования к ЦП и памяти с соответствующим номером SKU. Если вы решили выполнить повторное развертывание вручную с помощью ИНТЕРФЕЙСА командной строки или пакета SDK версии 2, мы также рекомендуем соответствующий номер SKU для нового развертывания.

Запрос ЦП Запрос памяти в ГБ Рекомендуемый номер SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" означает больше, чем , а "]" означает меньше или равно. Например, "(0, 1]" означает "больше 0 и меньше или равно 1".

Важно!

При обновлении с ACI будут внесены некоторые изменения в способ оплаты. В нашем блоге приведено приблизительное сравнение затрат, чтобы выбрать подходящие номера SKU виртуальных машин для вашей рабочей нагрузки.

Сетевая изоляция

Сценарии с частной рабочей областью и виртуальной сетью см. в статье Использование сетевой изоляции с управляемыми сетевыми конечными точками.

Важно!

Так как для вашей рабочей области и виртуальной сети существует множество параметров, мы настоятельно рекомендуем повторно выполнить повторное развертывание с помощью расширения Azure CLI версии 2 для машинного обучения, а не с помощью средства сценариев.

Не поддерживается

  • EncryptionProperties для контейнера ACI не поддерживается.
  • Веб-службы ACI, развернутые с помощью deploy_from_model и deploy_from_image, не поддерживаются средством обновления. Повторное развертывание вручную с помощью CLI или пакета SDK версии 2.

Действия по обновлению

С помощью интерфейса командной строки или пакета SDK

Повторное развертывание вручную с файлами модели и определением среды. Наши примеры можно найти в azureml-examples. В частности, это пример пакета SDK для управляемой сетевой конечной точки.

С помощью нашего средства обновления

Это средство автоматически создаст управляемую интернет-конечную точку на основе существующих веб-служб. Исходные службы не будут затронуты. Вы можете безопасно направить трафик в новую конечную точку, а затем удалить старую.

Примечание

Скрипт обновления — это пример скрипта, который предоставляется без соглашения об уровне обслуживания (SLA).

Выполните следующие действия, чтобы запустить скрипты:

Совет

Новая конечная точка, созданная скриптами, будет создана в той же рабочей области.

  1. Используйте оболочку Bash для запуска скриптов. Например, сеанс терминала в Linux или подсистема Windows для Linux (WSL).

  2. Установите пакет SDK для Python версии 1 , чтобы запустить скрипт Python.

  3. Установите Azure CLI.

  4. Клонируйте репозиторий в локальную среду. Например, git clone https://github.com/Azure/azureml-examples.

  5. Измените следующие значения в migrate-service.sh файле . Замените значения теми, которые применяются к вашей конфигурации.

    • <SUBSCRIPTION_ID> — Идентификатор подписки Azure, содержащей рабочую область.
    • <RESOURCEGROUP_NAME> — группа ресурсов, содержащая рабочую область.
    • <WORKSPACE_NAME> — имя рабочей области.
    • <SERVICE_NAME> — имя существующей службы ACI.
    • <LOCAL_PATH> — локальный путь, по которому скачиваются ресурсы и шаблоны, используемые скриптом.
    • <NEW_ENDPOINT_NAME> — имя новой конечной точки, которая будет создана. Рекомендуется, чтобы имя новой конечной точки отличалось от имени предыдущей службы. В противном случае исходная служба не будет отображаться, если вы проверка конечные точки на портале.
    • <NEW_DEPLOYMENT_NAME> — имя развертывания в новой конечной точке.

  6. Запустите скрипт bash. Например, ./migrate-service.sh. Для завершения нового развертывания потребуется около 5–10 минут.

    Совет

    Если появляется сообщение об ошибке о том, что скрипт не является исполняемым или при попытке запустить скрипт открывается редактор, используйте следующую команду, чтобы пометить скрипт как исполняемый:

    chmod +x migrate-service.sh

  7. После успешного завершения развертывания можно проверить конечную точку с помощью команды az ml online-endpoint invoke .

Свяжитесь с нами

Если у вас есть вопросы или отзывы о сценарии обновления, свяжитесь с нами по адресу moeonboard@microsoft.com.

Дальнейшие действия