Gerenciar clusters Apache Hadoop no HDInsight usando o Azure PowerShell

Artigo
10/17/2024

O Azure PowerShell pode ser usado para controlar e automatizar a implantação e o gerenciamento de suas cargas de trabalho no Azure. Neste artigo, você aprenderá a gerenciar clusters Apache Hadoop no Azure HDInsight usando o módulo Az do Azure PowerShell. Para obter a lista dos cmdlets do PowerShell do HDInsight, consulte a referência do Az.HDInsight.

Se não tiver uma subscrição do Azure, crie uma conta gratuita antes de começar.

Pré-requisitos

Nota

Recomendamos que utilize o módulo Azure Az do PowerShell para interagir com o Azure. Para começar, consulte Instalar o Azure PowerShell. Para saber como migrar para o módulo do Az PowerShell, veja Migrar o Azure PowerShell do AzureRM para o Az.

O módulo Az do PowerShell instalado.

Criar clusters

Consulte Criar clusters baseados em Linux no HDInsight usando o Azure PowerShell

Listar clusters

Use o seguinte comando para listar todos os clusters na assinatura atual:

Get-AzHDInsightCluster

Mostrar cluster

Use o seguinte comando para mostrar detalhes de um cluster específico na assinatura atual:

Get-AzHDInsightCluster -ClusterName <Cluster Name>

Excluir clusters

Use o seguinte comando para excluir um cluster:

Remove-AzHDInsightCluster -ClusterName <Cluster Name>

Você também pode excluir um cluster removendo o grupo de recursos que contém o cluster. A exclusão de um grupo de recursos exclui todos os recursos do grupo, incluindo a conta de armazenamento padrão.

Remove-AzResourceGroup -Name <Resource Group Name>

Dimensionar clusters

O recurso de dimensionamento de cluster permite alterar o número de nós de trabalho usados por um cluster em execução no Azure HDInsight sem precisar recriar o cluster. Para alterar o tamanho do cluster Hadoop usando o Azure PowerShell, execute o seguinte comando em uma máquina cliente:

Set-AzHDInsightClusterSize -ClusterName <Cluster Name> -TargetInstanceCount <NewSize>

Para obter mais informações sobre como dimensionar clusters, consulte Dimensionar clusters HDInsight.

Atualizar credenciais de usuário HTTP

Set-AzHDInsightGatewayCredential define as credenciais HTTP do gateway de um cluster do Azure HDInsight.

$clusterName = "CLUSTERNAME"
$credential = Get-Credential -Message "Enter the HTTP username and password:" -UserName "admin"

Set-AzHDInsightGatewayCredential -ClusterName $clusterName -HttpCredential $credential

Localizar a conta de armazenamento padrão

O seguinte script do PowerShell demonstra como obter o nome da conta de armazenamento padrão e as informações relacionadas:

#Connect-AzAccount
$clusterName = "<HDInsight Cluster Name>"

$clusterInfo = Get-AzHDInsightCluster -ClusterName $clusterName
$storageInfo = $clusterInfo.DefaultStorageAccount.split('.')
$defaultStoreageType = $storageInfo[1]
$defaultStorageName = $storageInfo[0]

echo "Default Storage account name: $defaultStorageName"
echo "Default Storage account type: $defaultStoreageType"

if ($defaultStoreageType -eq "blob")
{
    $defaultBlobContainerName = $cluster.DefaultStorageContainer
    $defaultStorageAccountKey = (Get-AzStorageAccountKey -ResourceGroupName $resourceGroupName -Name $defaultStorageAccountName)[0].Value
    $defaultStorageAccountContext = New-AzStorageContext -StorageAccountName $defaultStorageAccountName -StorageAccountKey $defaultStorageAccountKey

    echo "Default Blob container name: $defaultBlobContainerName"
    echo "Default Storage account key: $defaultStorageAccountKey"
}

Localizar o grupo de recursos

No modo Gerenciador de Recursos, cada cluster HDInsight pertence a um grupo de recursos do Azure. Para localizar o grupo de recursos:

$clusterName = "<HDInsight Cluster Name>"

$cluster = Get-AzHDInsightCluster -ClusterName $clusterName
$resourceGroupName = $cluster.ResourceGroup

Enviar trabalhos

Para enviar trabalhos do MapReduce

Consulte Executar os exemplos do MapReduce incluídos no HDInsight.

Para enviar trabalhos do Apache Hive

Consulte Executar consultas do Apache Hive usando o PowerShell.

Para enviar trabalhos do Apache Sqoop

Consulte Usar o Apache Sqoop com o HDInsight.

Para enviar trabalhos do Apache Oozie

Consulte Usar o Apache Oozie com o Apache Hadoop para definir e executar um fluxo de trabalho no HDInsight.

Carregar dados para o armazenamento de Blobs do Azure

Consulte Upload data to HDInsight (Carregar dados para o HDInsight).

Partilhar via