Exemplos de HorovodRunner

Importante

Horovod e HorovodRunner foram preteridos. Esse pacote não será pré-instalado nas versões posteriores à versão 15.4 LTS ML. Para aprendizado profundo distribuído, o Databricks recomenda usar TorchDistributor para treinamento distribuído com PyTorch ou a API tf.distribute.Strategy para treinamento distribuído com TensorFlow.

Os exemplos desta seção demonstram como usar o HorovodRunner para executar o treinamento distribuído usando um modelo de rede neural convolucionais no conjunto de dados do MNIST, um banco de dados grande de dígitos manuscritos.

• Aprendizado profundo usando o TensorFlow com o HorovodRunner para MNIST
• Adaptar o PyTorch de nó único ao aprendizado profundo distribuído