Delen via

Scenario: Clusterknooppunt heeft onvoldoende schijfruimte in Azure HDInsight

  • Artikel

In dit artikel worden de stappen voor probleemoplossing en mogelijke oplossingen beschreven voor problemen bij interactie met Azure HDInsight-clusters.

Probleem

Een taak kan mislukken met een foutbericht dat vergelijkbaar is met: /usr/hdp/2.6.3.2-14/hadoop/libexec/hadoop-config.sh: fork: No space left on device.

Of u ontvangt mogelijk een Apache Ambari-waarschuwing die vergelijkbaar is met: local-dirs usable space is below configured utilization percentage.

Oorzaak

De cache van de Apache Yarn-toepassing kan alle beschikbare schijfruimte hebben verbruikt. Uw Spark-toepassing wordt waarschijnlijk efficiënt uitgevoerd.

Oplossing

  1. Gebruik de Ambari-gebruikersinterface om te bepalen welk knooppunt onvoldoende schijfruimte heeft.

  2. Bepaal welke map in het verontrustende knooppunt bijdraagt aan de meeste schijfruimte. SSH eerst naar het knooppunt en voer vervolgens uit df om het schijfgebruik voor alle koppelingen weer te geven. Meestal is dat /mnt een tijdelijke schijf die wordt gebruikt door OSS. U kunt een map invoeren en vervolgens typen sudo du -hs om samengevatte bestandsgrootten onder een map weer te geven. Als u een map ziet die vergelijkbaar is met /mnt/resource/hadoop/yarn/local/usercache/livy/appcache/application_1537280705629_0007, betekent deze uitvoer dat de toepassing nog steeds wordt uitgevoerd. Deze uitvoer kan worden veroorzaakt door RDD-persistentie of tussenliggende willekeurige bestanden.

  3. Als u het probleem wilt verhelpen, beëindigt u de toepassing, die schijfruimte vrijgeeft die door die toepassing wordt gebruikt.

  4. Als het probleem vaak op de werkknooppunten optreedt, kunt u de lokale CACHE-instellingen van YARN afstemmen op het cluster.

    Open de Ambari-gebruikersinterface navigeer naar YARN --> Configuraties -> Geavanceerd.
    Voeg de volgende twee eigenschappen toe aan de sectie aangepaste yarn-site.xml en sla deze op:

    yarn.nodemanager.localizer.cache.target-size-mb=2048
yarn.nodemanager.localizer.cache.cleanup.interval-ms=300000

  5. Als het bovenstaande probleem niet permanent oplost, optimaliseert u uw toepassing.

Volgende stappen

Als u uw probleem niet hebt gezien of uw probleem niet kunt oplossen, gaat u naar een van de volgende kanalen voor meer ondersteuning:

  • Krijg antwoorden van Azure-experts via de ondersteuning van De Azure-community.

  • Maak verbinding met @AzureSupport : het officiële Microsoft Azure-account voor het verbeteren van de klantervaring. De Azure-community verbinden met de juiste resources: antwoorden, ondersteuning en experts.

  • Als u meer hulp nodig hebt, kunt u een ondersteuningsaanvraag indienen via Azure Portal. Selecteer Ondersteuning in de menubalk of open de Help + ondersteuningshub . Raadpleeg hoe u een ondersteuning voor Azure aanvraag maakt voor meer informatie. Toegang tot abonnementsbeheer en factuurbeheer is in uw Microsoft Azure-abonnement inbegrepen, en technische ondersteuning wordt verstrekt via een van de Azure-ondersteuningsplannen.