Аналитика данных в режиме реального времени с помощью Служебная шина Azure и Обозреватель данных Azure

Служебная шина Azure
Azure Data Explorer
Служба приложений Azure
База данных SQL Azure
Azure Cosmos DB

Идеи решения

Эта статья является идеей решения. Если вы хотите расширить содержимое с дополнительными сведениями, такими как потенциальные варианты использования, альтернативные службы, рекомендации по реализации или рекомендации по ценам, сообщите нам, предоставив отзыв GitHub.

В этой статье описывается, как использовать azure Data Обозреватель и Служебная шина Azure для улучшения существующей архитектуры брокера сообщений с помощью аналитики практически в режиме реального времени. Он предназначен для ИТ-администраторов, разработчиков облачных решений и групп мониторинга.

Архитектура

Схема, демонстрирующая архитектуру для реализации аналитики практически в режиме реального времени.

Скачайте файл Visio для этой архитектуры.

Логотип Grafana является товарным знаком Raintank, Inc., dba Grafana Labs. Никакое подтверждение не подразумевается использованием этого знака.

На схеме показаны два пути к данным. Основной путь, представленный сплошными линиями и полями 1–5, — прием данных из различных источников в служебной шине, где она обрабатывается заданием stream analytics и хранится в базе данных SQL. Второй путь, представленный пунктирными линиями и полями, показывает данные, поступающие из служебной шины в кластер данных Azure Обозреватель, где его можно запрашивать и анализировать с помощью язык запросов Kusto (KQL).

служебная шина используется для реализации Шаблон выравнивания нагрузки на основе очередей для транзакционного приложения.

Azure Data Обозреватель используется для запуска аналитики практически в режиме реального времени и предоставления данных с помощью API или прямых запросов, например Power BI, Управляемых Grafana или панелей мониторинга azure Data Обозреватель.

Поток данных

Источник данных в архитектуре — это существующее приложение для обработки транзакций (OLTP). служебная шина используется для асинхронного масштабирования приложения.

  1. Приложение OLTP (источник данных), размещенное в службе приложение Azure, отправляет данные в служебная шина.

  2. Потоки данных из служебная шина в двух направлениях:

    1. В существующем потоке приложений OLTP приложение-функция запускает приложение-функцию для хранения данных в База данных SQL Azure, Azure Cosmos DB или аналогичной операционной базе данных.

    2. В потоке аналитики практически в режиме реального времени он активирует поток оркестрации.

  3. Поток оркестрации отправляет данные в Azure Data Обозреватель для аналитики практически в режиме реального времени. Поток может использовать любой из следующих вариантов:

    • Приложение-функция, использующее пакеты SDK для отправки данных в микропакетах или использующее поддержку приема управляемой потоковой передачи, предоставляемой Обозреватель данных Azure при настройке приема потоковой передачи.
    • Служба опроса, например приложение, размещенное на Служба Azure Kubernetes (AKS) или виртуальной машине Azure, которая отправляет данные в Обозреватель данных Azure в микропакетах. Этот параметр не требует настройки приема данных Azure Обозреватель потоковой передачи.
  4. Azure Data Обозреватель обрабатывает данные с помощью политик сопоставления схем и обновлений, а также предоставляет доступ через API, пакет SDK или соединитель для интерактивной аналитики или отчетов. При необходимости Обозреватель данных Azure также могут получать или ссылаться на данные из других источников данных, например База данных SQL или Azure Data Lake служба хранилища.

  5. Приложения, пользовательские службы или службы отчетов, такие как панели мониторинга данных Azure Обозреватель, Power BI и Azure Managed Grafana, могут запрашивать данные в Azure Data Обозреватель практически в реальном времени.

Компоненты

  • Служба приложений позволяет создавать и размещать веб-приложения, мобильные серверные части и API RESTful на выбранном языке программирования без управления инфраструктурой.
  • служебная шина обеспечивает надежную облачную службу обмена сообщениями.
  • База данных SQL — это полностью управляемая база данных SQL, созданная для облака. Она предоставляет автоматические обновления, подготовку, масштабирование и резервные копии.
  • Azure Cosmos DB — это глобально распределенная многомодельная база данных для приложений любого масштаба.
  • Функции Azure — это бессерверная платформа вычислений на основе событий. С помощью функций можно развертывать и работать в масштабе в облаке и использовать триггеры и привязки для интеграции служб.
  • AKS — это высокодоступная, высокозащищенная и полностью управляемая служба Kubernetes для рабочих нагрузок приложений и микрослужб.
  • Azure Data Обозреватель — это быстрая, полностью управляемая и высокомасштабируемая служба аналитики данных в режиме реального времени для анализа больших объемов данных, которые передаются из приложений, веб-сайтов, устройств Интернета вещей и т. д.
  • Data Lake служба хранилища, построенный на основе Хранилище BLOB-объектов Azure, обеспечивает масштабируемую функциональность озера данных.
  • Power BI помогает превратить данные в последовательные, визуально иммерсивные, интерактивные аналитические сведения.
  • Управляемый Grafana Azure — это полностью управляемая служба, которая позволяет развертывать Grafana без затрат времени на настройку.

Подробности сценария

Аналитика в режиме реального времени — это процесс анализа данных, как только он создается, чтобы получить аналитические сведения о текущем состоянии системы. Организации все чаще внедряют аналитику в режиме реального времени, чтобы получить конкурентное преимущество. Аналитика практически в режиме реального времени — это вариант аналитики в режиме реального времени, которая предоставляет аналитические сведения в течение нескольких секунд или минут создания данных.

Эти процессы позволяют организациям быстрее получать аналитические сведения, принимать лучшие решения и реагировать на изменение условий более эффективно. Аналитика практически в режиме реального времени может применяться к различным доменам, таким как электронная коммерция, здравоохранение, производство и финансы. Например, компания электронной коммерции может использовать аналитику практически в режиме реального времени для мониторинга поведения клиентов, оптимизации ценообразования и персонализации рекомендаций.

Многие организации реализуют аналитику практически в режиме реального времени в существующих решениях. Эта идея решения демонстрирует, как добавить аналитику практически в режиме реального времени в существующую архитектуру, основанную на брокере сообщений, и это часть операционного приложения OLTP.

OLTP означает обработку транзакций через Интернет. Это тип обработки данных, который управляет приложениями, ориентированными на транзакции, как правило, для записи данных и получения транзакций в среде реального времени. Системы OLTP предназначены для обработки небольших, быстрых транзакций, которые часто являются финансовыми в природе, например банковские транзакции или кредитные карта покупки.

Потенциальные варианты использования

Ниже приведены некоторые варианты использования, иллюстрирующие преимущества аналитики практически в режиме реального времени:

  • Медицинские поставщики могут отслеживать результаты пациентов, обнаруживать аномалии и улучшать качество ухода.
  • Производственные компании могут оптимизировать производство, сократить отходы и предотвратить простой.
  • Финансовые учреждения могут отслеживать транзакции, обнаруживать мошенничество, управлять рисками и обеспечивать соответствие нормативным требованиям.
  • Коммерческие компании могут отслеживать кампании и получать аналитические сведения о поддержке продвижения.
  • Компании могут отслеживать, оптимизировать, анализировать и прогнозы цепочек поставок.

Соавторы

Эта статья поддерживается корпорацией Майкрософт. Первоначально он был написан следующими участник.

Автор субъекта:

Другие участник:

Чтобы просмотреть недоступные профили LinkedIn, войдите в LinkedIn.

Следующие шаги