使用 Azure 數據總管進行 IoT 分析

Azure Cosmos DB
Azure 資料總管
Azure Digital Twins

解決方案構想

本文是解決方案概念。 如果您想要使用詳細資訊來擴充內容,例如潛在的使用案例、替代服務、實作考慮或定價指引,請提供 GitHub 意見反應讓我們知道。

此解決方案概念描述 Azure 數據總管如何提供近乎即時的分析,以便從物聯網(IoT) 裝置和感測器快速流動、大量串流數據。 此分析工作流程是整體IoT解決方案的一部分,可將作業和分析工作負載與 Azure Cosmos DB 和 Azure 資料總管整合。

Jupyter 是其各自公司的商標。 使用此標記時不會隱含任何背書。 Apache 和 Apache® Kafka® 是 美國 和/或其他國家/地區的 Apache Software Foundation 註冊商標或商標。 Apache Software Foundation 不會隱含使用這些標記。

架構

顯示使用 Azure 數據總管進行 IoT 遙測分析的圖表。

下載此架構的 Visio 檔案

資料流程

  1. Azure 事件中樞、Azure IoT 中樞 或 Kafka 擷取各種不同的快速串流數據,例如記錄、商務事件和用戶活動。

  2. Azure Functions 或 Azure 串流分析會近乎即時地處理數據。

  3. Azure Cosmos DB 會以 JSON 格式儲存串流訊息,以提供即時作業應用程式。

  4. Azure 數據總管會擷取用於分析的數據,其連接器用於 Azure 事件中樞Azure IoT 中樞Kafka,以取得低延遲和高輸送量。

    或者,您可以使用事件方格數據連線,將 blob 從 Azure Blob 儲存體Azure Data Lake 儲存體 帳戶內嵌至 Azure 數據總管。

    您也可以使用壓縮、分割的 Apache Parquet 格式持續將數據匯出至 Azure 儲存體,並使用 Azure 數據總管順暢地查詢數據。 如需詳細資訊,請參閱 連續數據導出概觀

  5. 為了同時提供操作和分析使用案例,數據可以平行路由至 Azure 數據總管和 Azure Cosmos DB,或從 Azure Cosmos DB 路由至 Azure 數據總管。

    • Azure Cosmos DB 交易可以透過變更摘要觸發 Azure Functions。 函式會將數據串流至事件中樞,以擷取至 Azure 數據總管。

    • Azure Functions 可以透過其 API 叫用 Azure Digital Twins,然後將數據串流至事件中樞以擷取至 Azure 數據總管。

  6. 下列介面會從儲存在 Azure 數據總管中的數據取得見解:

  7. Azure 數據總管會與 Azure DatabricksAzure 機器學習 整合,以提供機器學習服務(ML) 服務。 您也可以使用其他工具和服務來建置 ML 模型,並將其匯出至 Azure 數據總管來評分數據。

元件

此解決方案概念使用下列 Azure 元件:

Azure 資料總管

Azure 數據總 管是快速、完全受控且高度可調整的巨量數據分析服務。 Azure 資料總管可以近乎即時地分析來自應用程式、網站和IoT裝置的大量串流數據,以提供分析應用程式和儀錶板。

Azure 數據總管提供原生進階分析:

Azure 資料總管 Web UI 會連線到 Azure 數據總管叢集,以協助撰寫、執行及共用 Kusto 查詢語言 命令和查詢。 Azure 數據總管 儀錶板是數據總管 Web UI 中原生導出 Kusto 查詢至優化儀錶板的功能。

其他 Azure 元件

  • Azure Cosmos DB 是完全受控、快速的 NoSQL 資料庫服務,適用於新式應用程式開發,並針對任何規模開放 API。
  • Azure Digital Twins 會儲存實體環境的數位模型,以協助建立新一代IoT解決方案,以建立真實世界的模型。
  • Azure 事件中樞 是完全受控的實時數據擷取服務。
  • Azure IoT 中樞 可在IoT裝置與 Azure 雲端之間進行雙向通訊。
  • 適用於 Azure Cosmos DB 的 Azure Synapse Link 會針對 Azure Cosmos DB 中的作業數據執行近乎即時的分析,而不會影響交易式工作負載的任何效能或成本。 Synapse Link 使用 來自 Azure Synapse 工作區的 SQL ServerlessSpark 集 區分析引擎。
  • HDInsight 上的 Kafka 是一項簡單、符合成本效益的企業級服務,可透過 Apache Kafka 進行開放原始碼分析。

案例詳細資料

此解決方案會使用 Azure 數據總管,從各種 IoT 裝置取得快速流動、大量串流數據的近乎即時 IoT 遙測分析。

潛在的使用案例

參與者

本文由 Microsoft 維護。 原始投稿人如下。

主體作者:

下一步