単一ノードの PyTorch を分散型ディープラーニングに適用する

PyTorch を使用して機械学習モデルの分散トレーニングを実行する方法について説明します。

このノートブックは、推奨される開発ワークフローに従います。はじめに、単一ノードでモデルをトレーニングする方法を説明し、次に分散トレーニングに HorovodRunner を使用してコードを調整する方法を説明します。

HorovodRunner PyTorch MNIST サンプルノートブック