解決方案構想
本文說明解決方案概念。 您的雲端架構師可以使用本指南,協助視覺化此架構的一般實作的主要元件。 以本文為起點,設計符合您工作負載具體要求的完善解決方案。
此解決方案概念描述 Azure 數據總管如何提供近乎即時的分析,以便從物聯網(IoT) 裝置和感測器快速流動、大量串流數據。 此分析工作流程是整體IoT解決方案的一部分,可將作業和分析工作負載與 Azure Cosmos DB 和 Azure 資料總管整合。
Jupyter 是其各自公司的商標。 使用此標記時不會隱含任何背書。 Apache® 和 Apache Kafkak® 是 Apache Software Foundation 在美國和/或其他國家/地區的註冊商標或商標。 使用這些標記不會隱含 Apache Software Foundation 的背書。
架構
下載此架構的 Visio 檔案。
資料流程
Azure 事件中樞、Azure IoT 中樞 或 Kafka 擷取各種不同的快速串流數據,例如記錄、商務事件和用戶活動。
Azure Functions 或 Azure 串流分析會近乎即時地處理數據。
Azure Cosmos DB 會以 JSON 格式儲存串流訊息,以提供即時作業應用程式。
Azure 數據總管會擷取用於分析的數據,其連接器用於 Azure 事件中樞、Azure IoT 中樞 或 Kafka,以取得低延遲和高輸送量。
或者,您可以使用事件方格數據連線,將 blob 從 Azure Blob 儲存體 或 Azure Data Lake Storage 帳戶擷取至 Azure 數據總管。
您也可以使用壓縮、分割的 Apache Parquet 格式持續將數據匯出至 Azure 儲存體,並使用 Azure 數據總管順暢地查詢數據。 如需詳細資訊,請參閱 連續數據導出概觀。
為了同時提供操作和分析使用案例,數據可以平行路由至 Azure 數據總管和 Azure Cosmos DB,或從 Azure Cosmos DB 路由至 Azure 數據總管。
Azure Cosmos DB 交易可以透過變更摘要觸發 Azure Functions。 函式會將數據串流至事件中樞,以擷取至 Azure 數據總管。
-或-
Azure Functions 可以透過其 API 叫用 Azure Digital Twins,然後將數據串流至事件中樞以擷取至 Azure 數據總管。
下列介面會從儲存在 Azure 數據總管中的數據取得見解:
- 從 Azure Digital Twins 和 Azure 數據總管 API 混合數據的自定義分析應用程式
- 使用 Azure 數據總管儀錶板、 Power BI 或 Grafana 的近乎即時分析儀錶板
- 適用於 Azure Logic Apps 的 Azure 數據總管連接器的 警示和通知
- Azure 數據總管 Web UI、 Kusto.Explorer 和 Jupyter Notebook
Azure 數據總管會與 Azure Databricks 和 Azure 機器學習 整合,以提供機器學習服務(ML) 服務。 您也可以使用其他工具和服務來建置 ML 模型,並將其匯出至 Azure 數據總管來評分數據。
元件
此解決方案概念使用下列 Azure 元件:
Azure 資料總管
Azure 數據總 管是快速、完全受控且高度可調整的巨量數據分析服務。 Azure 資料總管可以近乎即時地分析來自應用程式、網站和IoT裝置的大量串流數據,以提供分析應用程式和儀錶板。
Azure 數據總管提供原生進階分析:
Azure 資料總管 Web UI 會連線到 Azure 數據總管叢集,以協助撰寫、執行及共用 Kusto 查詢語言 命令和查詢。 Azure 數據總管 儀錶板是數據總管 Web UI 中原生導出 Kusto 查詢至優化儀錶板的功能。
其他 Azure 元件
- Azure Cosmos DB 是完全受控、快速的 NoSQL 資料庫服務,適用於新式應用程式開發,並針對任何規模開放 API。
- Azure Digital Twins 會儲存實體環境的數位模型,以協助建立新一代IoT解決方案,以建立真實世界的模型。
- Azure 事件中樞 是完全受控的實時數據擷取服務。
- Azure IoT 中樞 可在IoT裝置與 Azure 雲端之間進行雙向通訊。
- 適用於 Azure Cosmos DB 的 Azure Synapse Link 會針對 Azure Cosmos DB 中的作業數據執行近乎即時的分析,而不會影響交易式工作負載的任何效能或成本。 Synapse Link 使用 來自 Azure Synapse 工作區的 SQL Serverless 和 Spark 集 區分析引擎。
- HDInsight 上的 Kafka 是一項簡單、符合成本效益的企業級服務,可透過 Apache Kafka 進行開放原始碼分析。
案例詳細資料
此解決方案會使用 Azure 數據總管,從各種 IoT 裝置取得快速流動、大量串流數據的近乎即時 IoT 遙測分析。
潛在使用案例
- 車隊管理,用於車輛零件的預測性維護。 此解決方案適用於汽車和運輸業。
- 設施管理,用於能源和環境優化。
- 結合即時道路狀況與天氣數據,以更安全的自動駕駛。
參與者
本文由 Microsoft 維護。 原始投稿人如下。
主要作者:
- Ornat Spodek |資深內容管理員