共用方式為

Monitor Azure HDInsight

  • 發行項

本文章說明：

  • 您可以為此服務收集的監視資料類型。
  • 分析資料的方式。

注意

如果您已經熟悉此服務和/或 Azure 監視器，只想知道如何分析監視資料，請參閱本文靠近結尾的分析一節。

當您有依賴 Azure 資源的重要應用程式和商務流程時，就需要監視並取得系統的警示。 Azure 監視器服務會從您系統的每個元件收集及彙總計量和記錄。 Azure 監視器讓您能夠檢視可用性、效能及復原能力，並在發生問題時通知您。 您可以使用 Azure 入口網站、PowerShell、Azure CLI、REST API 或用戶端程式庫來設定及檢視監視資料。

HDInsight 監視選項

HDInsight 叢集可用的特定計量和記錄取決於您的叢集類型和工具。 Azure HDInsight 提供 Apache Hadoop、Spark、Kafka、HBase 和互動式查詢叢集類型。 您可以透過 Apache Ambari web UI,或在 Azure 入口網站中啟用 Azure 監視器整合來監視叢集。

Apache Ambari 監視

Apache Ambari 提供 web UI 和 REST API，可簡化 HDInsight 叢集的管理、組態及監視作業。 以 Linux 為基礎的所有 HDInsight 叢集會隨附 Ambari。 若要使用 Ambari，請選取 Azure 入口網站中 HDInsight 叢集 [概觀]頁面上的 [Ambari 首頁]。

如需深入了解如何使用 Ambari 進行監視，請參閱下列文章：

Azure 監視器整合

您也可以直接在 Azure 中監視 HDInsight 叢集。 新的預覽版 Azure 監視器整合可讓您在不需要叫用 Log Analytics 工作區的情況下，從 HDInsight 叢集存取 Insights、Logs 以及活頁簿。

若要使用新的 Azure 監視整合，請從 HDInsight Azure 入口網站頁面左側功能表中的 [監視] 區段選取 [監視整合] 來啟用。 您也可以使用 PowerShell 或 Azure CLI 來啟用新的監視整合並與其互動。 如需詳細資訊，請參閱下列文章：

深入解析

Azure 中的某些服務在 Azure 入口網站中有內建的監視儀表板，可提供監視服務的起點。 這些儀表板稱為深入解析，您可以在 Azure 入口網站中 Azure 監視器的深入解析中樞中找到這些儀表板。

Insights 叢集入口網站整合

啟用 Azure 監視器整合之後，您可以在 HDInsight Azure 入口網站頁面的左側功能表中選取 [Insights (預覽)]，以查看立即可用、自動填入的記錄和專屬於您叢集類型的計量視覺效果儀表板。 深入解析儀表板會使用預先建置的 Azure 活頁簿，其中包含每個叢集類型、YARN、系統計量和元件記錄的區段。

顯示視覺效果儀表板的螢幕擷取畫面。

這些詳細圖表和視覺效果可讓您深入解析叢集的效能和健康情況。 如需詳細資訊，請參閱使用 HDInsight 立即可用深入解析來監視單一叢集。

資源類型

Azure 會使用資源類型和識別碼的概念來識別訂用帳戶中的所有內容。 資源類型也是 Azure 中所執行每個資源的資源識別碼組成部分。 例如，虛擬機器的一種資源類型是 Microsoft.Compute/virtualMachines。 如需服務及其相關聯資源類型的清單，請參閱資源提供者 (機器翻譯)。

Azure 監視器同樣會依據資源類型將核心監視資料組織成計量和記錄，也稱為命名空間。 不同的計量和記錄適用於不同的資源類型。 您的服務可能會與多個資源類型相關聯。

如需 HDInsight 搜尋服務的資源類型的詳細資訊，請參閱 HDInsight 搜尋服務監視資料參考。

資料存放區

對於 Azure 監視器：

  • 計量資料會儲存在 Azure 監視器計量資料庫中。
  • 記錄資料會儲存在 Azure 監視器記錄存放區中。 Log Analytics 是可查詢此存放區的 Azure 入口網站工具。
  • Azure 活動記錄是個單獨存放區，其介面位於 Azure 入口網站。

您可選擇性地將計量和活動記錄資料路由傳送至 Azure 監視器記錄存放區。 然後，可以使用 Log Analytics 來查詢資料，並將其與其他記錄資料相互關聯。

許多服務可以使用診斷設定，將計量和記錄資料傳送至 Azure 監視器以外的其他儲存位置。 範例包括 Azure 儲存體、託管的合作夥伴系統以及使用事件中樞的非 Azure 合作夥伴系統。

如需進一步了解 Azure 監視器如何儲存資料，請參閱 Azure 監視器資料平台。

HDInsight 會將其記錄檔同時儲存在叢集檔案系統和 Azure 儲存體中。 由於記錄檔的數量和大小龐大，因此請務必將記錄記憶體和封存最佳化，以協助成本管理。 如需詳細資訊，請參閱管理 HDInsight 叢集的記錄。

Azure 監視器平台計量

Azure 監視器為大多數服務提供平台計量。 這些計量包括：

  • 針對每個命名空間個別定義。
  • 儲存在 Azure 監視器時間序列計量資料庫中。
  • 輕量且能支援近即時警示。
  • 用來追蹤資源效能的長期變化。

收集：Azure 監視器會自動收集平台計量。 不需要組態。

路由： 您也可以將某些平臺計量路由傳送至 Azure 監視器記錄/Log Analytics，以便使用其他記錄數據來查詢它們。 檢查每個計量的 DS 匯出 設定，以查看您是否可以使用診斷設定將計量路由傳送至 Azure 監視器記錄/Log Analytics。

如需 Azure 監視器中所有資源可收集的計量完整清單，請參閱 Azure 監視器中所支援的計量。

如需針對 HDInsight 自動收集的計量清單，請參閱 HDInsight 監視資料參考。

Azure 監視器資源記錄

資源記錄提供對 Azure 資源所完成作業的深入解析。 系統會自動產生記錄，但您必須將其路由傳送至 Azure 監視器記錄，才能儲存或查詢這些記錄。 按類別組織記錄。 指定的命名空間可能會有多個資源記錄類別。

收集：您必須先建立「診斷設定」，並將記錄路由傳送至一個或多個位置，才會開始收集和儲存資源記錄。 在建立診斷設定時，您可以指定要收集的記錄類別。 有多種方式可以建立和維護診斷設定，包括透過 Azure 入口網站、程式設計方式，以及 Azure 原則。

路由傳送：建議的預設設定是將資源記錄路由傳送至 Azure 監視器記錄，以便與其他記錄資料一同查詢。 您也可以使用其他位置，例如 Azure 儲存體、Azure 事件中樞及特定 Microsoft 監視合作夥伴。 如需詳細資訊，請參閱 Azure 資源記錄 (機器翻譯) 和資源記錄目的地 (機器翻譯)。

如需收集、儲存及路由傳送資源記錄的詳細資訊，請參閱 Azure 監視器中的診斷設定 (機器翻譯)。

如需 Azure 監視器中所有可用資源記錄類別的清單，請參閱 Azure 監視器中支援的資源記錄 (機器翻譯)。

Azure 監視器中的所有資源記錄都有相同的標頭欄位，後面接著服務特定的欄位。 一般結構描述如 Azure 監視器資源記錄結構描述中所述。

專員收集的記錄

HDInsight 不會透過一般方法產生資源記錄。 相反地，它會從 HDInsight 叢集內收集記錄，並使用 Log Analytics 代理程式將記錄傳送至 Azure 監視器記錄/Log Analytics 資料表。

HDInsight 叢集會產生許多記錄檔，例如：

  • 工作執行記錄
  • YARN 記錄 Resource Manager 檔案
  • 指令碼動作記錄
  • Ambari 叢集警示狀態
  • Ambari 系統計量
  • 安全性記錄
  • 記錄至控制器、stderr 和 syslog 記錄檔的 Hadoop 活動

可用的特定記錄取決於您的叢集架構和工具。 啟用叢集的 Azure 監視器整合之後，您可以檢視和查詢任何記錄。

選擇性記錄

HDInsight 叢集可以收集許多詳細資訊記錄。 若要協助節省監視和記憶體成本，您可以在 Azure 入口網站中使用 HDInsight 的指令碼動作來啟用選擇性記錄功能。 選擇性記錄可讓您啟用和關閉可透過 Log Analytics 取得的不同記錄和計量來源。 使用這項功能時，您只需要支付您所使用的內容。

您可以設定記錄收集和分析，以啟用或停用 Log Analytics 工作區中的資料表，並調整每個資料表的來源類型。 如需詳細指示，請參閱在 Azure HDInsight 中使用選擇性記錄搭配指令碼動作。

Azure 活動記錄 (部分機器翻譯)

活動記錄包含訂用帳戶層級事件，用於追蹤每個 Azure 資源外部可見的作業；例如，建立新的資源或啟動虛擬機器。

收集：活動記錄事件會自動產生並收集至個別存放區中，以便使用者在 Azure 入口網站中檢視。

路由：您可以將活動記錄資料傳送至 Azure 監視器記錄，以便與其他記錄資料一起分析。 您也可以使用其他位置，例如 Azure 儲存體、Azure 事件中樞及特定 Microsoft 監視合作夥伴。 如需路由傳送活動記錄的詳細資訊，請參閱 Azure 活動記錄概觀。

分析監視資料

有許多工具可用來分析監視資料。

Azure 監視器工具

Azure 監視器支援下列基本工具：

支援更複雜視覺效果的工具包括：

  • 儀表板 (機器翻譯) 可讓您將不同類型的資料合併到 Azure 入口網站中的單一窗格。
  • 活頁簿 (機器翻譯) 是能在 Azure 入口網站中建立的可自訂報表。 活頁簿可以包含文字、計量及記錄查詢。
  • Grafana 是在操作儀表板中表現相當出色的開放平台工具。 您可以使用 Grafana 來建立儀表板，納入 Azure 監視器以外多個來源的資料。
  • Power BI (機器翻譯) 是一項商務分析服務，可提供跨各種資料來源的互動式視覺效果。 你可以將 Power BI 設定為自動從 Azure 監視器匯入記錄資料，以利用這些視覺效果。

Azure 監視器記錄會從 HDInsight 叢集資源和其他監視工具收集資料，並使用該資料來提供多個來源分析。

Azure 監視器匯出工具

您可以使用下列方法將資料從 Azure 監視器中提取至其他工具：

若要開始使用適用於 Azure 監視器的 REST API，請參閱 Azure 監視 REST API 逐步解說 (機器翻譯)。

Kusto 查詢

您可以使用 Kusto 查詢語言 (KQL) 分析 Azure 監視器記錄/Log Analytics 存放區中的監視資料。

重要

當您從入口網站的服務功能表中選取 [記錄] 時，Log Analytics 會隨即開啟，並將查詢範圍設定為目前的服務。 此範圍表示記錄查詢只會包含該資源類型的資料。 如果您想要執行包含其他 Azure 服務資料的查詢，請從 [Azure 監視器] 功能表中選取 [記錄]。 如需詳細資訊，請參閱 Azure 監視器 Log Analytics 中的記錄查詢範圍和時間範圍。

如需各項服務的常見查詢清單，請參閱 Log Analytics 查詢介面 (機器翻譯)。

啟用 Azure 監視器整合之後，您可以在 HDInsight 入口網站頁面的左側導覽中選取 [記錄 (預覽)]，然後選取 [建立警示規則] 來設定警示。 例如，下列查詢會列出過去五小時內未傳送活動訊號的所有已知電腦。

// Unavailable computers 
Heartbeat
| summarize LastHeartbeat=max(TimeGenerated) by Computer
| where LastHeartbeat < ago(5h)

下列查詢會根據過去 24 小時內的 CPU 使用量，取出前 10 個需要大量資源的查詢。

// Top 10 resource intensive queries 
LAQueryLogs
| top 10 by StatsCPUTimeMs desc nulls last

重要

新的 Azure 監視器整合會在 Log Analytics 工作區中實作新資料表。 若要盡可能移除模糊語意，可減少結構描述數量，且結構描述格式會更有組織性且容易理解。

Azure 入口網站中的新監視整合會使用新的資料表，但您必須重新作業較舊的查詢和儀表板，才能使用新的資料表。 如需從傳統 Azure 監視器整合至新資料表的記錄資料表對應，請參閱記錄資料表對應。

警示

在監視資料中發現特定狀況時，Azure 監視器警示會主動通知您。 警示可讓您在客戶發現系統發生問題前，就先及早識別和解決問題。 如需詳細資訊，請參閱 Azure 監視器警示。

Azure 資源的常見警示有許多來源。 如需 Azure 資源的常見警示範例，請參閱記錄警示查詢範例 (機器翻譯)。 Azure 監視器基準警示 (AMBA) 網站提供半自動化方法來實作重要的平台計量警示、儀表板和指導方針。 此網站適用於持續擴充的 Azure 服務子集，包括屬於 Azure 登陸區域 (ALZ) 的所有服務。

常見的警示結構描述會將 Azure 監視器警示通知的使用量標準化。 如需詳細資訊，請參閱一般警示結構描述 (機器翻譯)。

警示類型

您可以針對在 Azure 監視器資料平台中的任何計量或記錄資料來源發出警示。 警示有許多不同的類型，具體取決於您監視的服務以及所收集的監視資料。 不同類型的警示各有優缺點。 如需詳細資訊，請參閱選擇正確的監視警示類型 (機器翻譯)。

下列清單介紹可建立的 Azure 監視器警示類型：

  • 計量警示 (機器翻譯) 會定期評估資源計量。 這些計量可以是平台計量、自訂計量、Azure 監視器轉換成計量的記錄，或 Application Insights 計量。 計量警示還可以套用多個條件和動態閾值。
  • 記錄警示 (機器翻譯) 可讓使用者使用 Log Analytics 查詢，以預先定義的頻率評估資源記錄。
  • 活動記錄警示 (機器翻譯) 會在發生符合定義條件的新活動記錄事件時觸發。 資源健康狀態警示和服務健康情況警示是報告服務和資源健康狀態的活動記錄警示。

某些 Azure 服務也支援智慧偵測警示、Prometheus 警示或建議的警示規則。

對於某些服務，若要進行大規模監控，您可以將同一計量警示規則套用至相同 Azure 區域中存在的多個同類型資源。 系統會針對每個受監視的資源傳送個別通知。 如需支援的 Azure 服務和雲端，請參閱使用一個警示規則監視多個資源 (機器翻譯)。

HDInsight 警示規則

啟用 Azure 監視器整合之後，您可以在 HDInsight 入口網站頁面的左側導覽中選取 [警示] ，然後選取 [建立警示規則] 來設定警示。 您可以根據任何 Log Analytics 查詢來建立警示基礎，或使用來自計量或活動記錄的訊號。

HDInsight 的幾個警示規則，如下表所示。 這些警示只是範例。 您可以為 HDInsight 監視資料參考中列出的任何計量、記錄專案或活動記錄項目設定警示。

警示類型 Condition 描述
計量 擱置中的 CPU 每當擱置 CPU 上限大於或小於動態閾值時
活動記錄檔 刪除叢集 只要活動記錄具有 Category='Administrative' 的事件時，Signal name='Delete Cluster (HDInsight Cluster)'

如需示範如何建立警示的範例，請參閱 Azure 監視器警示。

Advisor 建議

對於一些服務，如果在資源作業期間發生重大狀況或有即將到來的變更，入口網站的服務 [概觀] 頁面上會顯示警示。 您可以在左側功能表中 [監視] 底下的 [Advisor 建議] 中找到警示的詳細資訊和建議的修正。 在正常作業期間，不會顯示 Advisor 建議。

如需 Azure Advisor 的詳細資訊，請參閱 Azure Advisor 概觀 (機器翻譯)。

相關內容