horovod.spark: Horovod를 사용 하 여 분산형 심층 학습

Azure Databricks horovod.spark 은 keras 및 PyTorch를 사용 하 여 파이프라인을 ML 하는 데 사용할 수 있는 평가기 API를 제공 하는 패키지를 지원 합니다. 자세한 내용은 Databricks의 Horovod에 섹션을 포함 하는 Horovod on Spark를 참조 하세요.

참고

  • Azure Databricks 종속성이 horovod 포함 된 패키지를 설치 합니다. 이러한 종속성을 업그레이드 하거나 다운 그레이드 하는 경우 호환성 문제가 있을 수 있습니다.
  • horovod.sparkKeras에서 사용자 지정 콜백과 함께를 사용 하는 경우 TensorFlow SavedModel 형식으로 모델을 저장 해야 합니다.
    • TensorFlow 2.x에서 .tf 파일 이름에 접미사를 사용 합니다.
    • TensorFlow 1.x를 사용 하 여 옵션을 설정 save_weights_only=True 합니다.

요구 사항

Databricks Runtime ML 7.4 이상입니다.

이러한 노트북은 Keras 및 PyTorch와 함께 Horovod Spark 평가기 API를 사용 하는 방법을 보여 줍니다.

Horovod Spark 평가기 Keras 노트북

Notebook 가져오기

Horovod Spark 평가기 PyTorch 노트북

Notebook 가져오기