Емкость экземпляра управления API Azure

ОБЛАСТЬ ПРИМЕНЕНИЯ: Разработчик | Базовый | Стандартный | Премиум

Емкость — одна из наиболее важных метрик службы Azure Monitor, которая позволяет принимать обоснованные решения в отношении масштабирования или обновления экземпляра Управления API, чтобы система могла справиться с большей нагрузкой. Это сложная метрика, обязывающая следовать определенному поведению.

В этой статье объясняется, что такое емкость и ее поведение. Здесь показано, как получить доступ к метрикам емкости на портале Azure, и описаны случаи, когда следует рассмотреть возможность масштабирования или обновления экземпляра управления API.

Внимание

В этой статье поясняется, как отслеживать и масштабировать экземпляр Управления API Azure на основе его метрики емкости. Но не менее важно понимать, что происходит, когда отдельный экземпляр Управления API фактически достигает своей емкости. Управление API Azure не будет применять регулирование на уровне службы, чтобы предотвратить физическую перегрузку экземпляров. Когда экземпляр достигает своей физической емкости, он начинает вести себя так же, как любой перегруженный веб-сервер, который не может обработать входящие запросы: будет увеличиваться задержка, будут разрываться соединения, будут возникать ошибки истечения времени ожидания и т. д. Это означает, что клиенты API должны быть готовы справиться с этой ситуацией так же, как и для любой другой внешней службы (например, путем применения политик повторных попыток).

Необходимые компоненты

Чтобы выполнить шаги в этой статье, необходимо иметь следующее:

Availability

Внимание

Максимальное агрегирование метрики емкости поддерживается только на уровне "Премиум" службы "Управление API".

Что такое емкость

Схема, поясняющая метрику емкости.

Емкость — это индикатор нагрузки на экземпляр Управления API. Он отражает использование ресурсов (ЦП, памяти) и длину очереди сети. Использование ЦП и памяти показывает потребление ресурсов по:

  • службам плоскости данных Управления API, таким как обработка запросов, которая может включать перенаправление запросов или выполнение политики;
  • службам плоскости управления Управления API, таким как действия по управлению, применяемые с помощью портала Azure или Azure Resource Manager, или нагрузка, поступающая с портала разработчика;
  • выбранным процессам операционной системы, включая те, что влекут затраты на подтверждения TLS для новых подключений.
  • обновлениям платформы, таким как обновления ОС на базовых вычислительных ресурсах экземпляра.
  • Количество развернутых API независимо от действия, которое может использовать дополнительную емкость.

Общей емкостью является среднее значение всех единиц экземпляра Управления API.

Хотя Метрика емкости разработана для выявления проблем с экземпляром Управления API, бывают случаи, когда проблемы не отражаются в изменениях метрики емкости.

Поведение метрик емкости

На практике из-за собственной конструкции на емкость может повлиять множество переменных, например:

  • Шаблоны подключения (новое подключение по запросу и повторное использование имеющегося подключения).
  • Размеры запроса и ответа.
  • Политики, настроенные на каждом API, или количество клиентов, отправляющих запросы.

Чем сложнее операции в запросе, тем выше емкость потребления. Например, сложные политики преобразования потребляют гораздо больше ресурсов ЦП, чем перенаправление простого запроса. Медленные ответы внутренней службы также приводят к повышенному потреблению емкости.

Внимание

Емкость не является прямым расчетом числа обрабатываемых запросов.

Пики метрик емкости

В емкости могут также наблюдаться периодические пики или значения больше нуля (даже при отсутствии обрабатываемых запросов). Это происходит из-за определенных действий системы или платформы. Такие случаи не следует принимать во внимание при принятии решения о масштабировании экземпляра.

Низкая метрика емкости не обязательно означает, что у экземпляра Управления API нет проблем.

Использование портала Azure для изучения емкости

Метрики емкости

  1. Перейдите к своему экземпляру управления API на портале Azure.

  2. В меню слева в разделе Мониторинг выберите Метрики.

  3. Выберите метрику Емкость из доступных метрик и оставьте значение агрегирования по умолчанию Среднее.

    Совет

    Если вы развернули экземпляр в нескольких расположениях, всегда учитывайте распределение метрики емкости для каждого расположения, чтобы не допустить неправильной интерпретации.

  4. Чтобы разбить метрику по расположению, в верхней части раздела выберите Применить разделение, а затем выберите Расположение.

  5. Выберите нужный временной интервал на верхней панели раздела.

    Также можно настроить оповещение по метрикам, чтобы получать информацию о непредвиденных ситуациях. Например, получайте уведомления, если для экземпляра Управления API более 20 минут подряд превышена ожидаемая пиковая емкость.

    Совет

    Вы можете настроить получение оповещений, когда служба работает в условиях нехватки емкости, или использовать функциональные возможности автоматического масштабирования Azure Monitor, чтобы автоматически добавлять единицу Управления API Azure. Операция масштабирования может занять около 30 минут, поэтому следует планировать правила соответствующим образом.
    Допускается только масштабирование главного расположения.

Использование емкости для решений масштабирования

Емкость является метрикой, позволяющей принимать решения относительно масштабирования экземпляра управления API для предоставления дополнительных ресурсов, позволяющих справиться с большей нагрузкой. Ниже приведены общие рекомендации:

  • Учитывайте долгосрочные тенденции и средние значения.
  • Игнорируйте внезапные пики, которые, скорее всего, не связаны с увеличением нагрузки (подробное описание см. в разделе Поведение метрик емкости).
  • Обновляйте экземпляр или изменяйте его масштаб, если значение емкости превышает величину 60–70 % на протяжении длительного времени (например, 30 минут). Разные значения могут работать лучше в вашей службе или сценарии.
  • Если экземпляр настроен только с одной единицей, обновляйте экземпляр или изменяйте его масштаб, когда значение емкости превышает величину 40 % на протяжении длительного времени. Эта рекомендация основана на необходимости резервирования емкости для обновлений гостевой ОС на базовой платформе службы.

Совет

Если вы можете заранее оценить трафик, выполните тестирование экземпляра Управления API на ожидаемых рабочих нагрузках. Вы можете постепенно увеличивать число запросов для клиента и отследить, какое значение метрики емкости соответствует пиковой нагрузке. Выполните шаги из предыдущего раздела, чтобы понять, какая емкость используется в любой момент времени, используя портал Azure.

Следующие шаги