Abilitare i dump dell'heap per i servizi Apache Hadoop in HDInsight basato su Linux

  • Articolo

I dump dell'heap includono uno snapshot della memoria dell'applicazione, ad esempio i valori delle variabili al momento della creazione del dump. Sono quindi utili per diagnosticare i problemi che si verificano in fase di esecuzione.

Servizi

È possibile abilitare dump dell'heap per i servizi seguenti:

  • Apache hcatalog - tempelton
  • Apache hive - hiveserver2, metastore, derbyserver
  • mapreduce - jobhistoryserver
  • Apache yarn - resourcemanager, nodemanager, timelineserver
  • Apache hdfs - datanode, secondarynamenode, namenode

È inoltre possibile abilitare dump dell'heap per la mappa e ridurre i processi eseguiti da HDInsight.

Informazioni sulla configurazione dei dump dell'heap

I dump dell'heap vengono abilitati mediante il passaggio di opzioni (talvolta noto come parametri) a JVM quando viene avviato un servizio. Per la maggior parte dei servizi Apache Hadoop è possibile modificare lo script della shell usato per avviare il servizio per passare queste opzioni.

In ogni script è presente un'esportazione per *_OPTS, che contiene le opzioni passate alla JVM. Ad esempio, nello script hadoop-env.sh, la riga che inizia con export HADOOP_NAMENODE_OPTS= contiene le opzioni per il servizio NameNode.

I processi di mapping e riduzione sono leggermente diversi, in quanto queste operazioni sono processi figlio del servizio MapReduce. Ogni processo di mapping o riduzione viene eseguito in un contenitore figlio e ci sono due elementi che contengono le opzioni di JVM. Entrambi sono contenuti in mapred-site.xml:

  • mapreduce.admin.map.child.java.opts
  • mapreduce.admin.reduce.child.java.opts

Nota

È consigliabile usare Apache Ambari per modificare gli script e le impostazioni di mapred-site.xml, in quanto Ambari gestisce la replica delle modifiche tra i nodi del cluster. Per i passaggi specifici, vedere la sezione Uso di Apache Ambari.

Abilitare i dump dell'heap

L'opzione seguente abilita il dump dell'heap quando si verifica un OutOfMemoryError:

-XX:+HeapDumpOnOutOfMemoryError

+ indica che l'opzione è abilitata. Per impostazione predefinita, l'opzione è disabilitata.

Avviso

I dump dell'heap non sono abilitati per i servizi Hadoop in HDInsight per impostazione predefinita, perché i file di dump possono essere di grandi dimensioni. Se li si abilita per la risoluzione dei problemi, ricordarsi di disabilitarli dopo aver riprodotto il problema e raccolto i file di dump.

Percorso dei dump

Il percorso predefinito per il file di dump è la directory di lavoro corrente. È possibile controllare dove viene archiviato il file usando l'opzione seguente:

-XX:HeapDumpPath=/path

Ad esempio, se si usa -XX:HeapDumpPath=/tmp, il dump viene archiviato nella directory /tmp.

Script

È anche possibile generare uno script quando si verifica un OutOfMemoryError . Ad esempio, attivando una notifica per sapere che si è verificato l'errore. Usare l'opzione seguente per attivare uno script su un OutOfMemoryError:

-XX:OnOutOfMemoryError=/path/to/script

Nota

Poiché Apache Hadoop è un sistema distribuito, tutti gli script usati devono essere posizionati in tutti i nodi del cluster in cui viene eseguito il servizio.

Lo script deve anche trovarsi in un percorso accessibile dall'account con cui viene eseguito il servizio e deve fornire autorizzazioni di esecuzione. Ad esempio, è possibile archiviare gli script in /usr/local/bin e usare chmod go+rx /usr/local/bin/filename.sh per concedere autorizzazioni di lettura ed esecuzione.

Uso di Apache Ambari

Per modificare la configurazione di un servizio, attenersi alla procedura seguente:

  1. In un Web browser passare a https://CLUSTERNAME.azurehdinsight.net dove CLUSTERNAME è il nome del cluster.

  2. Usando l'elenco a sinistra, selezionare l'area del servizio da modificare. Ad esempio, HDFS. Nell'area centrale selezionare la scheda Configs .

    Image of Ambari web with HDFS Configs tab selected.

  3. Usando la voce Filter... immettere opts. Vengono visualizzati solo gli elementi che contengono questo testo.

    Apache Ambari config filtered list.

  4. Trovare la voce *_OPTS per il servizio per cui si desidera abilitare i dump dell'heap e aggiungere le opzioni da abilitare. Nell'immagine seguente ho aggiunto -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/tmp/ alla voce HADOOP_NAMENODE_OPTS :

    Apache Ambari hadoop-namenode-opts.

    Nota

    Quando si abilitato i dump dell'heap per il processo figlio di mapping o riduzione, si cercano i campi denominati mapreduce.admin.map.child.java.opts e mapreduce.admin.reduce.child.java.opts.

    Fare clic sul pulsante Save per salvare le modifiche apportate. Sarà possibile immettere una breve nota che descrive le modifiche.

  5. Dopo avere applicato le modifiche, viene visualizzata l'icona Restart required accanto a uno o più servizi.

    restart required icon and restart button.

  6. Selezionare ogni servizio che richiede un riavvio e usare il pulsante Service Actions per Disattivare la modalità di manutenzione. La modalità di manutenzione impedisce che vengano generati avvisi quando si riavvia questo servizio.

    Turn on hdi maintenance mode menu.

  7. Dopo aver abilitato la modalità di manutenzione, usare il pulsante Restart per il servizio per Restart All Effected

    Apache Ambari Restart All Affected entry.

    Nota

    Le voci per il pulsante Restart (Riavvia) possono essere diverse per altri servizi.

  8. Dopo il riavvio dei servizi, usare il pulsante Service Actions per Disattivare la modalità di manutenzione. Questa opzione indica ad Ambari di riprendere il monitoraggio per gli avvisi relativi al servizio.