horovod.spark: aprendizaje profundo distribuido con Horovod

Azure Databricks admite el paquete, que proporciona una API de estimador que puede usar en ML horovod.spark canalizaciones con Keras y PyTorch. Para más información, consulte Horovod en Spark,que incluye una sección sobre Horovod en Databricks.

Nota

  • Azure Databricks instala el paquete horovod con dependencias. Si actualiza o degrada estas dependencias, puede haber problemas de compatibilidad.
  • Cuando se usa con devoluciones de llamada personalizadas en Keras, debe guardar los modelos en el formato SavedModel de horovod.spark TensorFlow.
    • Con TensorFlow 2.x, use el .tf sufijo en el nombre de archivo.
    • Con TensorFlow 1.x, establezca la opción save_weights_only=True .

Requisitos

Databricks Runtime ML 7.4 o superior.

Ejemplos

Estos cuadernos muestran cómo usar horovod Spark Estimator API con Keras y PyTorch.

Cuaderno de Keras del estimador de Spark de Horovod

Obtener el cuaderno

Cuaderno de PyTorch del estimador de Spark de Horovod

Obtener el cuaderno