نقاط نهاية الدفعة
يسمح لك Azure التعلم الآلي بتنفيذ نقاط النهاية الدفعية والنشرات لتنفيذ الاستدلال طويل الأمد وغير المتزامن مع نماذج التعلم الآلي والتدفقات. عند تدريب نموذج التعلم الآلي أو البنية الأساسية لبرنامج ربط العمليات التجارية، تحتاج إلى توزيعه بحيث يمكن للآخرين استخدامه مع بيانات إدخال جديدة لإنشاء تنبؤات. تسمى عملية إنشاء التنبؤات باستخدام النموذج أو البنية الأساسية لبرنامج ربط العمليات التجارية بالاستدلال.
نقاط النهاية الدفعية تتلقى المؤشرات إلى البيانات وتشغِّل المهام بشكل غير متزامن لمعالجة البيانات بالتوازي على أنظمة مجموعات الحساب. تخزن نقاط النهاية الدفعية المخرجات إلى مخزن بيانات لمزيد من التحليل. استخدم نقاط النهاية الدفعية عندما:
- لديك نماذج أو مسارات مكلفة تتطلب وقتا أطول للتشغيل.
- تريد تشغيل مسارات التعلم الآلي وإعادة استخدام المكونات.
- تحتاج إلى إجراء استدلال على كميات كبيرة من البيانات، موزعة في ملفات متعددة.
- ليس لديك متطلبات زمن انتقال منخفضة.
- يتم تخزين مدخلات النموذج الخاص بك في حساب تخزين أو في أصل بيانات التعلم الآلي من Azure.
- يمكنك الاستفادة من التوازي.
عمليات توزيع الدفعات
التوزيع هو مجموعة من الموارد والحسابات المطلوبة لتنفيذ الوظيفة التي توفرها نقطة النهاية. يمكن لكل نقطة نهاية استضافة العديد من عمليات النشر بتكوينات مختلفة، وتساعد هذه الوظيفة على فصل واجهة نقطة النهاية عن تفاصيل التنفيذ التي يتم تعريفها بواسطة النشر. عند استدعاء نقطة نهاية دفعية، فإنه يوجه العميل تلقائيا إلى توزيعه الافتراضي. يمكن تكوين هذا النشر الافتراضي وتغييره في أي وقت.
هناك نوعان من عمليات النشر الممكنة في نقاط نهاية دفعة Azure التعلم الآلي:
توزيع النموذج
يتيح نشر النموذج تشغيل استنتاج النموذج على نطاق واسع، ما يسمح لك بمعالجة كميات كبيرة من البيانات في زمن انتقال منخفض وبطريقة غير متزامنة. يقوم Azure التعلم الآلي تلقائيا بأداة قابلية التوسع من خلال توفير توازي عمليات الاستدلال عبر عقد متعددة في نظام مجموعة حساب.
استخدم نشر النموذج عندما:
- لديك نماذج مكلفة تتطلب وقتا أطول لتشغيل الاستدلال.
- تحتاج إلى إجراء استدلال على كميات كبيرة من البيانات، موزعة في ملفات متعددة.
- ليس لديك متطلبات زمن انتقال منخفضة.
- يمكنك الاستفادة من التوازي.
الفائدة الرئيسية من عمليات نشر النموذج هي أنه يمكنك استخدام نفس الأصول التي يتم نشرها للاستدلال في الوقت الحقيقي على نقاط النهاية عبر الإنترنت، ولكن الآن، يمكنك تشغيلها على نطاق واسع على دفعة واحدة. إذا كان النموذج الخاص بك يتطلب معالجة مسبقة بسيطة أو معالجة بعد، يمكنك تأليف برنامج نصي لتسجيل النقاط يقوم بإجراء تحويلات البيانات المطلوبة.
لإنشاء توزيع نموذج في نقطة نهاية دفعية، تحتاج إلى تحديد العناصر التالية:
- النموذج
- نظام مجموعة الحساب
- البرنامج النصي لتسجيل النقاط (اختياري لنماذج MLflow)
- البيئة (اختياري لنماذج MLflow)
نشر مكون البنية الأساسية لبرنامج ربط العمليات التجارية
يتيح نشر مكون البنية الأساسية لبرنامج ربط العمليات التجارية تشغيل الرسوم البيانية للمعالجة بأكملها (أو المسارات) لإجراء استدلال دفعي في زمن انتقال منخفض وبطريقة غير متزامنة.
استخدم نشر مكون البنية الأساسية لبرنامج ربط العمليات التجارية عندما:
- تحتاج إلى تشغيل الرسوم البيانية للحوسبة الكاملة التي يمكن تحليلها إلى خطوات متعددة.
- تحتاج إلى إعادة استخدام المكونات من مسارات التدريب في مسار الاستدلال الخاص بك.
- ليس لديك متطلبات زمن انتقال منخفضة.
الفائدة الرئيسية من عمليات نشر مكونات البنية الأساسية لبرنامج ربط العمليات التجارية هي إعادة استخدام المكونات الموجودة بالفعل في النظام الأساسي الخاص بك والقدرة على تشغيل إجراءات الاستدلال المعقدة.
لإنشاء توزيع مكون البنية الأساسية لبرنامج ربط العمليات التجارية في نقطة نهاية دفعية، تحتاج إلى تحديد العناصر التالية:
- مكون البنية الأساسية لبرنامج ربط العمليات التجارية
- حساب تكوين نظام المجموعة
تسمح لك نقاط النهاية الدفعية أيضا بإنشاء عمليات نشر مكونات البنية الأساسية لبرنامج ربط العمليات التجارية من مهمة البنية الأساسية لبرنامج ربط العمليات التجارية الموجودة. عند القيام بذلك، يقوم Azure التعلم الآلي تلقائيا بإنشاء مكون البنية الأساسية لبرنامج ربط العمليات التجارية خارج المهمة. وهذا يبسط استخدام هذه الأنواع من عمليات التوزيع. ومع ذلك، من أفضل الممارسات إنشاء مكونات البنية الأساسية لبرنامج ربط العمليات التجارية بشكل صريح لتبسيط ممارسة MLOps الخاصة بك.
إدارة التكلفة
يؤدي استدعاء نقطة نهاية دفعية إلى تشغيل مهمة استدلال دفعي غير متزامنة. توفر Azure التعلم الآلي موارد الحوسبة تلقائيا عند بدء المهمة، وإلغاء تخصيصها تلقائيا عند اكتمال المهمة. بهذه الطريقة، تدفع فقط مقابل الحوسبة عند استخدامها.
تلميح
عند نشر النماذج، يمكنك تجاوز إعدادات موارد الحساب (مثل عدد المثيلات ) والإعدادات المتقدمة (مثل حجم الدفعة المصغرة وحد الخطأ وما إلى ذلك) لكل مهمة استدلال دفعية فردية. من خلال الاستفادة من هذه التكوينات المحددة، قد تتمكن من تسريع التنفيذ وتقليل التكلفة.
يمكن أيضا تشغيل نقاط النهاية الدفعية على الأجهزة الظاهرية ذات الأولوية المنخفضة. يمكن لنقاط النهاية الدفعية الاسترداد تلقائيا من الأجهزة الظاهرية التي تم إلغاء تخصيصها واستئناف العمل من حيث تركت عند نشر نماذج للاستدلال. لمزيد من المعلومات حول كيفية استخدام الأجهزة الظاهرية ذات الأولوية المنخفضة لتقليل تكلفة أحمال عمل الاستدلال الدفعي، راجع استخدام الأجهزة الظاهرية ذات الأولوية المنخفضة في نقاط نهاية الدفعة.
وأخيرا، لا يفرض عليك Azure التعلم الآلي رسوما مقابل نقاط النهاية الدفعية أو عمليات توزيع الدفعات نفسها، حتى تتمكن من تنظيم نقاط النهاية والنشرات الخاصة بك حسب أفضل ما يناسب السيناريو الخاص بك. يمكن أن تستخدم نقاط النهاية والنشر أنظمة مجموعات مستقلة أو مشتركة، بحيث يمكنك تحقيق تحكم دقيق في الحساب الذي تستهلكه الوظائف. استخدم المقياس إلى الصفر في المجموعات لضمان عدم استهلاك أي موارد عندما تكون خاملة.
تبسيط ممارسة MLOps
يمكن لنقاط النهاية الدفعية معالجة عمليات نشر متعددة ضمن نفس نقطة النهاية، ما يسمح لك بتغيير تنفيذ نقطة النهاية دون تغيير عنوان URL الذي يستخدمه المستهلكون لاستدعائه.
يمكنك إضافة عمليات النشر وإزالتها وتحديثها دون التأثير على نقطة النهاية نفسها.
مصادر البيانات المرنة والتخزين
تقرأ نقاط النهاية الدفعية البيانات وتكتبها مباشرة من التخزين. يمكنك تحديد مخازن بيانات Azure التعلم الآلي أو أصول بيانات Azure التعلم الآلي أو حسابات التخزين كمدخلات. لمزيد من المعلومات حول خيارات الإدخال المدعومة وكيفية تحديدها، راجع إنشاء الوظائف وبيانات الإدخال إلى نقاط النهاية الدفعية.
الأمان
توفر نقاط النهاية الدفعية جميع الإمكانات المطلوبة لتشغيل أحمال العمل على مستوى الإنتاج في إعداد المؤسسة. وهي تدعم الشبكات الخاصة على مساحات العمل الآمنة ومصادقة Microsoft Entra، إما باستخدام أساس مستخدم (مثل حساب مستخدم) أو كيان خدمة (مثل هوية مدارة أو غير مدارة). يتم تشغيل المهام التي تم إنشاؤها بواسطة نقطة نهاية دفعية ضمن هوية المستدعي، ما يمنحك المرونة لتنفيذ أي سيناريو. لمزيد من المعلومات حول التخويل أثناء استخدام نقاط نهاية الدفعة، راجع كيفية المصادقة على نقاط نهاية الدفعة.