توزيع الحاوية وتشغيلها على Azure Container Instance

مقالة
07/20/2023

باستخدام الخطوات التالية، قم بتوسيع نطاق تطبيقات خدمات Azure الذكاء الاصطناعي في السحابة بسهولة باستخدام مثيلات حاوية Azure. تساعدك الحاوية على التركيز على بناء تطبيقاتك بدلاً من إدارة البنية الأساسية. لمزيد من المعلومات حول استخدام الحاويات، راجع الميزات والفوائد.

المتطلبات الأساسية

تعمل الوصفة مع أي حاوية خدمات azure الذكاء الاصطناعي. يجب إنشاء مورد خدمات Azure الذكاء الاصطناعي قبل استخدام الوصفة. تحتوي كل خدمة الذكاء الاصطناعي Azure تدعم الحاويات على مقالة "كيفية التثبيت" لتثبيت الخدمة وتكوينها للحاوية. تتطلب بعض الخدمات ملفاً أو مجموعة ملفات كمدخلات للحاوية، من المهم أن تفهم الحاوية وتكون قد استخدمتها مسبقاً بنجاح قبل استخدام هذا الحل.

مورد Azure لخدمة Azure الذكاء الاصطناعي التي تستخدمها.
عنوان URL لنقطة نهاية مورد خدمة Azure الذكاء الاصطناعي - راجع "كيفية التثبيت" الخاصة بالخدمة المحددة للحاوية، للعثور على مكان عنوان URL لنقطة النهاية من داخل مدخل Microsoft Azure، وما هو المثال الصحيح لعنون URL الذي يبدو عليه. يمكن أن يتغير التنسيق الدقيق من خدمة إلى أخرى.
مفتاح مورد خدمة Azure الذكاء الاصطناعي - توجد المفاتيح في صفحة المفاتيح لمورد Azure. لا تحتاج سوى مفتاح واحد من هذين المفتاحين. المفتاح عبارة عن سلسلة من 32 حرفاً أبجدياً رقمياً.
حاوية خدمات azure الذكاء الاصطناعي واحدة على المضيف المحلي (الكمبيوتر الخاص بك). تأكد من أنه يمكنك:
- سحب الصورة لأسفل باستخدام الأمر docker pull.
- تشغيل الحاوية المحلية بنجاح مع جميع إعدادات التكوين المطلوبة باستخدام الأمر docker run.
- اتصل بنقطة نهاية الحاوية، واحصل على استجابة HTTP 2xx واستجابة JSON مرة أخرى.

يجب استبدال جميع المتغيرات الموجودة بين قوسي زاويتين، <>، بقيمك الخاصة. يتضمن هذا الاستبدال أقواس الزاوية.

هام

تتطلب حاوية LUIS ملف نموذج .gz يتم سحبه في وقت التشغيل. يجب أن تكون الحاوية قادرة على الوصول إلى ملف النموذج هذا عبر تحميل وحدة تخزين من مثيل الحاوية. لتحميل ملف نموذج، اتبع الخطوات التالية:

إنشاء مشاركة ملف Azure. قم بتدوين اسم حساب Azure Storage والمفتاح واسم مشاركة الملف حيث ستحتاج إليها لاحقاً.
قم بتصدير نموذج LUIS (تطبيق مجمّع) من بوابة LUIS الإلكترونية.
في مدخل Microsoft Azure، انتقل إلى صفحة Overview لمورد حساب التخزين، وحدد File shares.
حدد اسم مشاركة الملف الذي قمت بإنشائه مؤخراً، ثم حدد Upload. ثم قم بتحميل التطبيق المعبأ الخاص بك.

⁧⁩مدخل Microsoft Azure⁧⁩
CLI

قم بإنشاء مورد Azure Container Instance باستخدام مدخل Microsoft Azure

انتقل إلى صفحة Create لمثيلات الحاوية.

في علامة التبويب Basics، أدخل التفاصيل التالية:

الإعداد	القيمة
الاشتراك	حدد اشتراكك.
مجموعة الموارد:	حدد مجموعة الموارد المتاحة أو أنشئ مجموعة جديدة مثل `cognitive-services`.
اسم الحاوية	أدخل اسماً مثل `cognitive-container-instance`. يجب أن يكون الاسم بأحرف صغيرة.
‏‏الموقع	حدد منطقة للتوزيع.
نوع الصورة	إذا كانت صورة الحاوية مخزنة في سجل حاوية لا يتطلب بيانات اعتماد، فاختر `Public`. إذا كان الوصول إلى صورة الحاوية يتطلب بيانات اعتماد، فاختر `Private`. راجع الصور ومستودعات الحاويات للحصول على تفاصيل حول ما إذا كانت صورة الحاوية `Public` أو `Private` ("معاينة عامة").
اسم الصورة	أدخل موقع حاوية خدمات Azure الذكاء الاصطناعي. الموقع هو ما يتم استخدامه كوسيطة للأمر `docker pull`. ارجع إلى مستودعات الحاويات والصور للتعرف على أسماء الصور المتاحة والمستودعات المقابلة لها. يجب أن يكون اسم الصورة مؤهلاً بالكامل مع تحديد ثلاثة أجزاء. أولاً، سجل الحاوية، ثم المستودع، وأخيراً اسم الصورة: `<container-registry>/<repository>/<image-name>`. فيما يلي مثال، `mcr.microsoft.com/azure-cognitive-services/keyphrase` سيمثل صورة Key Phrase Extraction في Microsoft Container Registry ضمن مستودع خدمات Azure الذكاء الاصطناعي. مثال آخر هو، `containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text` الذي سيمثل صورة Speech to text في مستودع Microsoft لسجل حاوية Container Preview.
نوع نظام التشغيل	`Linux`
الحجم	تغيير الحجم إلى التوصيات المقترحة لحاوية Azure الذكاء الاصطناعي المحددة: 2 نواة وحدة المعالجة المركزية 4 غيغابايات

في علامة التبويب Networking، أدخل التفاصيل التالية:

الإعداد القيمة

منافذ اضبط منفذ TCP على 5000. كشف الحاوية على المنفذ 5000.

الإعداد	القيمة
منافذ	اضبط منفذ TCP على `5000`. كشف الحاوية على المنفذ 5000.

في علامة التبويب Advanced، أدخل متغيرات البيئة المطلوبة لإعدادات فوترة الحاوية لمورد Azure Container Instance:

المفتاح	القيمة
`ApiKey`	تم نسخها من صفحة Keys and endpoint للمورد. وهي عبارة عن سلسلة مكونة من 32 حرفاً أبجدياً رقمياً دون مسافات أو شرطات، `xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx`.
`Billing`	تم نسخ عنوان URL لنقطة النهاية من صفحة Keys and endpoint للمورد.
`Eula`	`accept`

حدد Review and Create
بعد اجتياز التحقق، انقر على Create لإنهاء عملية الإنشاء
عندما يتم توزيع المورد بنجاح، يكون جاهزاً

قم بإنشاء مورد Azure Container Instance من Azure CLI

يحدد YAML أدناه مورد مثيل حاوية Azure. انسخ المحتويات وألصقها في ملف جديد، يسمى my-aci.yaml واستبدل القيم المعلقة بالقيم الخاصة بك. راجع تنسيق القالب لـ YAML صالح. راجع مستودعات الحاوية والصور لأسماء الصور المتوفرة والمستودع المقابل لها. لمزيد من المعلومات عن مرجع YAML لمثيلات الحاوية، راجع مرجع YAML: مثيلات حاوية Azure.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

ملاحظة

لا تحتوي جميع المواقع على نفس توفر وحدة المعالجة المركزية والذاكرة. راجع جدول الموقع والموارد لإدراج الموارد المتوفرة للحاويات لكل موقع ونظام تشغيل.

سنعتمد على ملف YAML الذي أنشأناه للأمر az container create. من Azure CLI، قم بتنفيذ الأمر الذي az container create يستبدل <resource-group> بـ الخاص بك. بالإضافة إلى ذلك، لتأمين القيم داخل توزيع YAML، راجع القيم الآمنة.

az container create -g <resource-group> -f my-aci.yaml

إخراج الأمر إذا Running... كان صالحًا، بعد وقت ما يتغير الإخراج إلى سلسلة JSON التي تمثل مورد ACI الذي تم إنشاؤه حديثًا. من المحتمل ألا تكون صورة الحاوية متاحة لفترة من الوقت، ولكن يتم نشر المورد الآن.

تلميح

انتبه جيدا إلى مواقع خدمات Azure الذكاء الاصطناعي في المعاينة العامة، حيث ستحتاج YAML إلى تعديلها وفقا لذلك لمطابقة الموقع.

حدد Overview وانسخ عنوان IP. سيكون عنوان IP رقمياً مثل 55.55.55.55.
افتح علامة تبويب متصفح جديدة واستخدم عنوان IP، على سبيل المثال، http://<IP-address>:5000 (http://55.55.55.55:5000). سترى الصفحة الرئيسية للحاوية، لإعلامك بأن الحاوية تعمل.
حدد Service API Description لعرض صفحة Swagger الخاصة بالحاوية.
حدد أياً من واجهات برمجة تطبيقات POST وحدد Try it out. يتم عرض المعلمات بما في ذلك المدخلات. املأ المعلمات.
حدد Execute لإرسال الطلب إلى مثيل الحاوية الخاص بك.

لقد نجحت في إنشاء حاويات خدمات Azure الذكاء الاصطناعي واستخدامها في Azure Container Instance.

التحقق من أن الحاوية قيد التشغيل

هناك عدة طرق للتحقق من أن الحاوية قيد التشغيل. تحديد موقع عنوان IP الخارجي والمنفذ المكشوف للحاوية المعنية، وفتح مستعرض الويب المفضل لديك. استخدم عناوين URL المختلفة للطلب التي تتبع التحقق من صحة الحاوية. عناوين URL لطلب المثال المذكورة هنا هي http://localhost:5000، ولكن قد تختلف الحاوية المحددة. تأكد من الاعتماد على عنوان IP الخارجي للحاوية والمنفذ المكشوف.

URL للطلب	الغرض
`http://localhost:5000/`	توفر الحاوية صفحةً رئيسيةً.
`http://localhost:5000/ready`	المطلوب مع GET، يوفر عنوان URL هذا التحقق من أن الحاوية جاهزة لقبول استعلام مقابل النموذج. ويمكن استخدام هذا الطلب لـ Kubernetes تحقيقات الحيوية والاستعداد.
`http://localhost:5000/status`	ومطلوب أيضاً مع GET، يتحقق عنوان URL هذا مما إذا كان مفتاح واجهة برمجة التطبيقات المستخدم لبدء الحاوية صالحاً دون إجراء استعلام نقطة النهاية. ويمكن استخدام هذا الطلب لـ Kubernetes تحقيقات الحيوية والاستعداد.
`http://localhost:5000/swagger`	توفر الحاوية مجموعةً كاملةً من الوثائق لنقاط النهاية وميزة Try it out. باستخدام هذه الميزة، يمكنك إدخال إعداداتك في نموذج HTML المستند إلى الويب وجعل الاستعلام دون الحاجة إلى كتابة أي رمز. بعد عودة الاستعلام، يتم توفير مثال على أمر Curl لإظهار عناوين HTTP وتنسيق الجسم المطلوب.

الصفحة الرئيسية للحاوية