Adapte o PyTorch de nó único à aprendizagem profunda distribuída
Saiba como realizar treinamento distribuído de modelos de aprendizado de máquina usando o PyTorch.
Este bloco de anotações segue o fluxo de trabalho de desenvolvimento recomendado. Ele primeiro mostra como treinar o modelo em um único nó e, em seguida, como adaptar o código usando HorovodRunner para treinamento distribuído.