使用 Azure HDInsight 對 Apache Hive 進行疑難排解
了解在 Apache Ambari 中使用 Apache Hive 承載時最常發生的問題及其解決方法。
如何匯出 Hive 中繼存放區並匯入另一個叢集?
解決步驟
使用安全殼層 (SSH) 用戶端連線到 HDInsight 叢集。 如需詳細資訊,請參閱其他閱讀資料。
在您要匯出中繼存放區的 HDInsight 叢集上執行下列命令:
for d in `hive -e "show databases"`; do echo "create database $d; use $d;" >> alltables.sql ; for t in `hive --database $d -e "show tables"` ; do ddl=`hive --database $d -e "show create table $t"`; echo "$ddl ;" >> alltables.sql ; echo "$ddl" | grep -q "PARTITIONED\s*BY" && echo "MSCK REPAIR TABLE $t ;" >> alltables.sql ; done; done
此命令會產生名為 allatables.sql 的檔案。
將 alltables.sql 檔案複製到 HDInsight 叢集,然後執行下列命令:
hive -f alltables.sql
解決步驟中的程式碼會假設新叢集上的資料路徑與舊叢集上的資料路徑相同。 如果資料路徑不同,您可以手動編輯產生的 alltables.sql
檔案來反映任何變更。
延伸閱讀
如何在叢集上尋找 Hive 記錄?
解決步驟
使用 SSH 連線到 HDInsight 叢集。 如需詳細資訊,請參閱其他閱讀資料。
若要檢視 Hive 用戶端記錄,請使用下列命令:
/tmp/<username>/hive.log
若要檢視 Hive 中繼存放區記錄,請使用下列命令:
/var/log/hive/hivemetastore.log
若要檢視 Hive 伺服器記錄,請使用下列命令:
/var/log/hive/hiveserver2.log
延伸閱讀
如何在叢集上以特定設定啟動 Hive Shell?
解決步驟
當您啟動 Hive Shell 時,請指定設定機碼值組。 如需詳細資訊,請參閱其他閱讀資料。
hive -hiveconf a=b
若要列出 Hive Shell 上所有有效的設定,使用下列命令:
hive> set;
例如,使用下列命令,以啟動 Hive Shell 並在主控台上啟用偵錯記錄:
hive -hiveconf hive.root.logger=ALL,console
延伸閱讀
如何分析叢集關鍵路徑上的 Apache Tez DAG 資料?
解決步驟
若要分析叢集關鍵圖表上的 Apache Tez 有向非循環圖 (DAG),請使用 SSH 連線到 HDInsight 叢集。 如需詳細資訊,請參閱其他閱讀資料。
在命令提示字元中,執行下列命令:
hadoop jar /usr/hdp/current/tez-client/tez-job-analyzer-*.jar CriticalPath --saveResults --dagId <DagId> --eventFileName <DagData.zip>
若要列出可用來分析 Tez DAG 的其他分析器,請使用下列命令:
hadoop jar /usr/hdp/current/tez-client/tez-job-analyzer-*.jar
您必須提供範例程式作為第一個引數。
有效的程式名稱包括:
- ContainerReuseAnalyzer:列印 DAG 中的容器重複使用詳細資料
- CriticalPath:尋找 DAG 的關鍵路徑
- LocalityAnalyzer:列印 DAG 中的位置詳細資料
- ShuffleTimeAnalyzer:分析 DAG 中的隨機播放時間詳細資料
- SkewAnalyzer:分析 DAG 中的扭曲詳細資料
- SlowNodeAnalyzer:列印 DAG 中的節點詳細資料
- SlowTaskIdentifier:列印 DAG 中的低速工作詳細資料
- SlowestVertexAnalyzer:列印 DAG 中最慢頂點詳細資料
- SpillAnalyzer:列印 DAG 中的溢出詳細資料
- TaskConcurrencyAnalyzer:列印 DAG 中的工作並行詳細資料
- VertexLevelCriticalPathAnalyzer:在 DAG 的頂點層級中尋找關鍵路徑
延伸閱讀
如何從叢集下載 Tez DAG 資料?
解決步驟
有兩種方式可以收集 Tez DAG 資料:
從命令列:
使用 SSH 連線到 HDInsight 叢集。 在命令提示字元中,執行下列命令:
hadoop jar /usr/hdp/current/tez-client/tez-history-parser-*.jar org.apache.tez.history.ATSImportTool -downloadDir . -dagId <DagId>
使用 Ambari Tez 檢視:
- 移至 Ambari。
- 移至 Tez 檢視 (在右上角的磚圖示下)。
- 選取您要檢視的 DAG。
- 選取 [下載資料]。
延伸閱讀
下一步
如果您沒有看到您的問題,或無法解決您的問題,請瀏覽下列其中一個管道以取得更多支援:
透過 Azure 社群支援獲得由 Azure 專家所提供的解答。
連線至 @AzureSupport,這是用來改善客戶體驗的官方 Microsoft Azure 帳戶。 將 Azure 社群連線到正確的資源:解答、支援和專家。
如果需要更多協助,您可在 Azure 入口網站提交支援要求。 從功能表列中選取 [支援] 或開啟 [說明 + 支援] 中樞。 如需詳細資訊,請參閱如何建立 Azure 支援要求。 Microsoft Azure 訂用帳戶包括訂用帳戶管理及帳務支援的存取權,而技術支援由其中一項 Azure 支援方案提供。