Exemplos de HorovodRunner

Importante

Horovod e HorovodRunner estão agora obsoletos. As versões posteriores ao 15.4 LTS ML não terão este pacote pré-instalado. Para aprendizagem profunda distribuída, a Databricks recomenda o uso do TorchDistributor para treinamento distribuído com o PyTorch ou a API para treinamento distribuído com o tf.distribute.Strategy TensorFlow.

Os exemplos nesta seção demonstram como usar o HorovodRunner para realizar treinamento distribuído usando um modelo de rede neural convolucional no conjunto de dados MNIST , um grande banco de dados de dígitos manuscritos.

• Aprendizagem profunda usando o TensorFlow com HorovodRunner para MNIST
• Adapte o PyTorch de nó único à aprendizagem profunda distribuída