ما هي نقاط نهاية Azure التعلم الآلي (معاينة)؟
هام
تُعد هذه الميزة قيد المعاينة العامة في الوقت الحالي. يجري توفير إصدار المعاينة هذا من دون اتفاقية على مستوى الخدمة، ولا يوصى به لأحمال العمل الخاصة بالإنتاج. بعض الميزات ربما لا تكون مدعمة أو بها بعض القدرات المقيدة. لمزيد من المعلومات، راجع شروط الاستخدام التكميلية لمعاينات Microsoft Azure.
ملاحظة
تستخدم هذه المقالة أحدث إصدار من الإصدار 2 من CLI الموجود في المعاينة العامة. للحصول على إرشادات حول تحديث أحدث إصدار وتثبيته، راجع مستند تثبيت CLI (الإصدار 2) وإعداده .
استخدم نقاط نهاية Azure التعلم الآلي (معاينة) لتبسيط عمليات نشر النماذج لكل من عمليات نشر الاستدلال الدفعي في الوقت الفعلي والدفعات. توفر نقاط النهاية واجهة موحدة لاستدعاء عمليات نشر النماذج وإدارتها عبر أنواع الحوسبة.
في هذه المقالة، ستتعرف على:
- نقاط النهاية
- عمليات النشر
- نقاط النهاية المدارة عبر الإنترنت
- نقاط نهاية Kubernetes عبر الإنترنت
- نقاط نهاية الاستدلال الدفعي
ما هي نقاط النهاية وعمليات النشر (المعاينة)؟
بعد تدريب نموذج التعلم الآلي، تحتاج إلى نشر النموذج حتى يتمكن الآخرون من استخدامه للقيام بالاستدلال. في Azure التعلم الآلي، يمكنك استخدام نقاط النهاية (المعاينة) وعمليات النشر (المعاينة) للقيام بذلك.
نقطة النهاية هي نقطة نهاية HTTPS يمكن للعملاء الاتصال بها لتلقي مخرجات الاستدلال (التسجيل) لنموذج مدرب. إنه يوفر ما يلي:
- المصادقة باستخدام المصادقة المستندة إلى "الرمز المميز للمفتاح & "
- إنهاء SSL
- سجل مستقر URI (endpoint-name.region.inference.ml.azure.com)
النشر هو مجموعة من الموارد المطلوبة لاستضافة النموذج الذي يقوم بالاستدلال الفعلي.
يمكن أن تحتوي نقطة نهاية واحدة على عمليات نشر متعددة. نقاط النهاية وعمليات النشر هي موارد Azure Resource Manager مستقلة تظهر في مدخل Azure.
يستخدم Azure التعلم الآلي مفهوم نقاط النهاية وعمليات النشر لتنفيذ أنواع مختلفة من نقاط النهاية: نقاط النهاية عبر الإنترنت ونقاطنهاية الدفعات.
واجهات مطورين متعددة
يمكنك إنشاء نقاط نهاية الدفعات ونقاط النهاية عبر الإنترنت وإدارتها باستخدام أدوات مطور متعددة:
- واجهة سطر الأوامر The Azure CLI
- Azure Resource Manager/REST API
- Azure التعلم الآلي studio web portal
- Azure portal (IT/Admin)
- دعم خطوط أنابيب CI/CD MLOps باستخدام واجهات REST/ARM لواجهة & Azure CLI
ما هي نقاط النهاية عبر الإنترنت (المعاينة)؟
نقاط النهاية عبر الإنترنت (المعاينة) هي نقاط نهاية تستخدم للاستدلال عبر الإنترنت (في الوقت الفعلي). بالمقارنة مع نقاط نهاية الدفعات، تحتوي نقاط النهاية عبر الإنترنت على عمليات نشر جاهزة لتلقي البيانات من العملاء ويمكنها إرسال الردود مرة أخرى في الوقت الفعلي.
يوضح الرسم التخطيطي التالي نقطة نهاية عبر الإنترنت تحتوي على عمليتي نشر، "أزرق" و"أخضر". يستخدم النشر الأزرق الأجهزة الظاهرية مع وحدة SKU لوحدة المعالجة المركزية، ويقوم بتشغيل الإصدار v1 من نموذج. يستخدم النشر الأخضر الأجهزة الظاهرية مع وحدة SKU لوحدة معالجة الرسومات، ويستخدم الإصدار v2 من النموذج. يتم تكوين نقطة النهاية لتوجيه 90٪ من حركة المرور الواردة إلى النشر الأزرق ، بينما يتلقى اللون الأخضر نسبة 10٪ المتبقية.
متطلبات عمليات النشر عبر الإنترنت
لإنشاء نقطة نهاية عبر الإنترنت ، تحتاج إلى تحديد العناصر التالية:
- ملفات النماذج (أو حدد نموذجا مسجلا في مساحة العمل الخاصة بك)
- البرنامج النصي لتسجيل النقاط - التعليمات البرمجية اللازمة للقيام بالتسجيل / الاستدلال
- البيئة - صورة Docker مع تبعيات Conda ، أو dockerfile
- إعدادات مقياس مثيل & الحوسبة
تعرف على كيفية نشر نقاط النهاية عبر الإنترنت من CLIوبوابة الويب الخاصة بالاستوديو.
الاختبار والنشر محليا لتصحيح الأخطاء بشكل أسرع
انشر محليا لاختبار نقاط النهاية الخاصة بك دون النشر على السحابة. يقوم Azure التعلم الآلي بإنشاء صورة Docker محلية تحاكي صورة Azure ML. سيقوم Azure التعلم الآلي بإنشاء عمليات نشر وتشغيلها لك محليا، وتخزين الصورة مؤقتا للتكرارات السريعة.
نشر أصلي باللون الأزرق / الأخضر
تذكر أن نقطة نهاية واحدة يمكن أن يكون لها عمليات نشر متعددة. يمكن لنقطة النهاية عبر الإنترنت إجراء موازنة التحميل لإعطاء أي نسبة مئوية من حركة المرور لكل عملية نشر.
يمكن استخدام تخصيص حركة المرور للقيام بعمليات نشر آمنة باللون الأزرق / الأخضر من خلال موازنة الطلبات بين المثيلات المختلفة.
تلميح
يمكن للطلب تجاوز موازنة تحميل حركة المرور التي تم تكوينها عن طريق تضمين رأس HTTP ل azureml-model-deployment. قم بتعيين قيمة الرأس إلى اسم النشر الذي تريد توجيه الطلب إليه.
تعرف على كيفية الطرح بأمان إلى نقاط النهاية عبر الإنترنت.
تكامل رؤى التطبيق
تتكامل جميع نقاط النهاية عبر الإنترنت مع Insights التطبيقات لمراقبة اتفاقيات مستوى الخدمة وتشخيص المشكلات.
ومع ذلك ، تتضمن نقاط النهاية المدارة عبر الإنترنت أيضا تكاملا خارج الصندوق مع سجلات Azure ومقاييس Azure.
الأمان
- المصادقة: Key and Azure ML Tokens
- الهوية المدارة: تعيين المستخدم وتعيين النظام
- طبقة المقابس الآمنة بشكل افتراضي لاستدعاء نقطة النهاية
التكلس التلقائي
يقوم القياس التلقائي تلقائيا بتشغيل الكمية المناسبة من الموارد للتعامل مع الحمل على التطبيق الخاص بك. تدعم نقاط النهاية المدارة القياس التلقائي من خلال التكامل مع ميزة القياس التلقائي لشاشة Azure . يمكنك تكوين القياس المستند إلى المقاييس (على سبيل المثال، استخدام >وحدة المعالجة المركزية بنسبة 70٪)، أو القياس المستند إلى الجدول الزمني (على سبيل المثال، قواعد القياس لساعات ذروة العمل)، أو الجمع.
تصحيح أخطاء Visual Studio Code
يمكنك Visual Studio Code من تصحيح نقاط النهاية بشكل تفاعلي.
نقاط النهاية المدارة عبر الإنترنت مقابل نقاط النهاية عبر الإنترنت Kubernetes (معاينة)
هناك نوعان من نقاط النهاية عبر الإنترنت: نقاط النهاية المدارة عبر الإنترنت (المعاينة) ونقاط النهاية عبر الإنترنت Kubernetes (المعاينة). تساعد نقاط النهاية المدارة عبر الإنترنت على نشر نماذج ML الخاصة بك بطريقة متكاملة. تعمل نقاط النهاية المدارة عبر الإنترنت مع أجهزة وحدة المعالجة المركزية ووحدة معالجة الرسومات القوية في Azure بطريقة قابلة للتطوير ومدارة بالكامل. تهتم نقاط النهاية المدارة عبر الإنترنت بخدمة نماذجك وتوسيع نطاقها وتأمينها ومراقبتها ، مما يحررك من النفقات العامة لإعداد البنية التحتية الأساسية وإدارتها. يستخدم المثال الرئيسي في هذا المستند نقاط النهاية المدارة عبر الإنترنت للنشر.
يسلط الجدول التالي الضوء على الاختلافات الرئيسية بين نقاط النهاية المدارة عبر الإنترنت ونقاط النهاية Kubernetes عبر الإنترنت.
| نقاط النهاية المدارة عبر الإنترنت | نقاط نهاية Kubernetes عبر الإنترنت | |
|---|---|---|
| المستخدمون الموصى بهم | المستخدمون الذين يريدون نشر نموذج مدار وتجربة MLOps محسنة | المستخدمون الذين يفضلون Kubernetes ويمكنهم الإدارة الذاتية لمتطلبات البنية التحتية |
| إدارة البنية التحتية | توفير الحوسبة المدارة وتوسيع نطاقها وتحديثات صور نظام التشغيل المضيف وتصلب الأمان | مسؤولية المستخدم |
| نوع الحساب | مدارة (AmlCompute) | Kubernetes cluster (Kubernetes) |
| مراقبة خارج الصندوق | Azure Monitoring (بما في ذلك المقاييس الرئيسية مثل زمن الوصول والإنتاجية) |
غير مدعوم |
| تسجيل خارج الصندوق | سجلات Azure وتحليلات السجلات على مستوى نقطة النهاية | مدعوم |
| Application Insights | مدعوم | مدعوم |
| الهوية المُدارة | مدعوم | مدعوم |
| الشبكة الافتراضية (VNET) | غير مدعوم حتى الآن (نحن نعمل على ذلك) | مدعوم |
| عرض التكاليف | نقطة النهاية ومستوى النشر | مستوى المجموعة |
نقاط النهاية المدارة عبر الإنترنت
يمكن أن تساعد نقاط النهاية المدارة عبر الإنترنت في تبسيط عملية النشر. توفر نقاط النهاية المدارة عبر الإنترنت المزايا التالية عبر نقاط النهاية عبر الإنترنت Kubernetes:
البنية التحتية المدارة
- يقوم تلقائيا بتوفير الحساب واستضافة النموذج (تحتاج فقط إلى تحديد نوع الجهاز الظاهري وإعدادات المقياس)
- تحديث وتصحيح صورة نظام التشغيل المضيف الأساسية تلقائيا
- الاسترداد التلقائي للعقدة في حالة حدوث فشل في النظام
المراقبة والسجلات
- راقب توفر الطراز وأدائه واتفاقية مستوى الخدمة باستخدام التكامل الأصلي مع Azure Monitor.
- تصحيح عمليات النشر باستخدام السجلات والتكامل الأصلي مع Azure Log Analytics.
عرض التكاليف
- تتيح لك نقاط النهاية المدارة عبر الإنترنت مراقبة التكلفة على مستوى نقطة النهاية والنشر
للحصول على برنامج تعليمي خطوة بخطوة، راجع كيفية نشر نقاط النهاية عبر الإنترنت.
ما هي نقاط نهاية الدفعات (المعاينة)؟
نقاط نهاية الدفعات (المعاينة) هي نقاط نهاية تستخدم للقيام بالاستدلال الدفعي على كميات كبيرة من البيانات على مدى فترة زمنية. تتلقى نقاط نهاية الدفعات مؤشرات إلى البيانات وتقوم بتشغيل المهام بشكل غير متزامن لمعالجة البيانات بالتوازي على مجموعات الحوسبة. تخزن نقاط نهاية الدفعات المخرجات إلى مخزن بيانات لمزيد من التحليل.
متطلبات نشر الدفعات
لإنشاء نشر دفعي، تحتاج إلى تحديد العناصر التالية:
- ملفات النماذج (أو حدد نموذجا مسجلا في مساحة العمل الخاصة بك)
- Compute
- البرنامج النصي لتسجيل النقاط - التعليمات البرمجية اللازمة للقيام بالتسجيل / الاستدلال
- البيئة - صورة Docker مع تبعيات Conda
إذا كنت تقوم بنشر نماذج MLFlow ، فليست هناك حاجة لتوفير برنامج نصي لتسجيل النقاط وبيئة تنفيذ ، حيث يتم إنشاء كلاهما تلقائيا.
تعرف على كيفية نشر نقاط نهاية الدفعات واستخدامها باستخدام Azure CLI ومدخلالاستوديو على الويب
التكلفة المدارة باستخدام حوسبة القياس التلقائي
يؤدي استدعاء نقطة نهاية دفعة إلى تشغيل مهمة استدلال دفعة غير متزامنة. يتم توفير موارد الحوسبة تلقائيا عند بدء المهمة، ويتم إلغاء تخصيصها تلقائيا عند اكتمال المهمة. لذلك أنت تدفع فقط مقابل الحوسبة عند استخدامها.
يمكنك تجاوز إعدادات موارد الحوسبة (مثل عدد المثيلات) والإعدادات المتقدمة (مثل حجم الدفعات المصغرة وعتبة الخطأ وما إلى ذلك) لكل مهمة استدلال دفعة فردية لتسريع التنفيذ وتقليل التكلفة.
مصادر بيانات مرنة وتخزين
يمكنك استخدام الخيارات التالية لإدخال البيانات عند استدعاء نقطة نهاية دفعية:
- Azure التعلم الآلي مجموعات البيانات المسجلة - لمزيد من المعلومات، راجع إنشاء مجموعات بيانات Azure التعلم الآلي
- البيانات السحابية - إما عنوان URI للبيانات العامة أو مسار بيانات في datastore. لمزيد من المعلومات، راجع الاتصال إلى البيانات باستخدام استوديو Azure التعلم الآلي
- البيانات المخزنة محليا
حدد موقع إخراج التخزين لأي مخزن بيانات ومسار. بشكل افتراضي، تقوم نقاط نهاية الدفعات بتخزين مخرجاتها في مخزن blob الافتراضي لمساحة العمل، والذي يتم تنظيمه بواسطة اسم المهمة (GUID الذي ينشئه النظام).
الأمان
- المصادقة: Azure Active Directory Tokens
- طبقة المقابس الآمنة بشكل افتراضي لاستدعاء نقطة النهاية
الخطوات التالية
- كيفية نشر نقاط النهاية عبر الإنترنت باستخدام Azure CLI
- كيفية نشر نقاط نهاية الدفعات باستخدام Azure CLI
- كيفية استخدام نقاط النهاية عبر الإنترنت مع الاستوديو
- نشر النماذج باستخدام REST (معاينة)
- كيفية مراقبة نقاط النهاية المدارة عبر الإنترنت
- كيفية عرض تكاليف نقاط النهاية المدارة عبر الإنترنت
- إدارة الحصص النسبية للموارد وزيادتها باستخدام Azure التعلم الآلي