HorovodRunner-Beispiele

Wichtig

Horovod und HorovodRunner sind jetzt veraltet. Bei Releases nach 15.4 LTS ML ist dieses Paket nicht vorinstalliert. Für verteiltes Deep Learning empfiehlt Databricks die Verwendung von TorchDistributor für verteiltes Training mit PyTorch oder der tf.distribute.Strategy-API für verteiltes Training mit TensorFlow.

Die Beispiele in diesem Abschnitt veranschaulichen, wie HorovodRunner verwendet wird, um ein verteiltes Training mithilfe eines Convolutional Neural Network-Modells für das MNIST-Dataset durchzuführen, eine große Datenbank mit handschriftlichen Ziffern.

• Deep Learning mit TensorFlow mit HorovodRunner für MNIST
• PyTorch mit einem einzelnen Knoten für verteiltes Deep Learning anpassen