استخدام خوارزميات التدريب الموزعة مع Hyperopt
بالإضافة إلى خوارزميات التدريب أحادية الجهاز مثل تلك من scikit-learn، يمكنك استخدام Hyperopt مع خوارزميات التدريب الموزعة. في هذا السيناريو، ينشئ Hyperopt تجارب بإعدادات hyperparameter مختلفة على عقدة برنامج التشغيل. يتم تنفيذ كل إصدار تجريبي من عقدة برنامج التشغيل، ما يمنحها حق الوصول إلى موارد نظام المجموعة الكاملة. يعمل هذا الإعداد مع أي خوارزميات أو مكتبات للتعلم الآلي موزعة، بما في ذلك Apache Spark MLlib وHorovodRunner.
عند استخدام Hyperopt مع خوارزميات التدريب الموزعة، لا تقم بتمرير وسيطة trials إلى fmin()، وعلى وجه التحديد، لا تستخدم SparkTrials الفئة . SparkTrials تم تصميمه لتوزيع التجارب للخوارزميات التي لا يتم توزيعها في حد ذاتها. باستخدام خوارزميات التدريب الموزعة، استخدم الفئة الافتراضية Trials ، التي تعمل على برنامج تشغيل نظام المجموعة. يقيم Hyperopt كل إصدار تجريبي على عقدة برنامج التشغيل بحيث يمكن لخوارزمية التعلم الآلي نفسها بدء التدريب الموزع.
ملاحظه
لا يدعم Azure Databricks التسجيل التلقائي إلى MLflow مع Trials الفئة . عند استخدام خوارزميات التدريب الموزعة، يجب عليك استدعاء MLflow يدويا لتسجيل الإصدارات التجريبية ل Hyperopt.
مثال دفتر الملاحظات: استخدام Hyperopt مع خوارزميات MLlib
يوضح دفتر الملاحظات المثال كيفية استخدام Hyperopt لضبط خوارزميات التدريب الموزعة ل MLlib.
دفتر ملاحظات التدريب الموزع Hyperopt وMLlib
مثال دفتر الملاحظات: استخدام Hyperopt مع HorovodRunner
HorovodRunner هي واجهة برمجة تطبيقات عامة تستخدم لتشغيل أحمال عمل التعلم العميق الموزعة على Databricks. يدمج HorovodRunner Horovod مع وضع حاجز Spark لتوفير استقرار أعلى لوظائف التدريب على التعلم العميق طويلة الأمد على Spark.
يوضح دفتر الملاحظات المثال كيفية استخدام Hyperopt لضبط التدريب الموزع للتعلم العميق استنادا إلى HorovodRunner.