الحدود والحصص النسبية لخدمة Azure OpenAI
تحتوي هذه المقالة على مرجع سريع ووصف مفصل للحصص النسبية والحدود ل Azure OpenAI في خدمات Azure الذكاء الاصطناعي.
مرجع الحدود والحصص النسبية
توفر لك الأقسام التالية دليلا سريعا للحصص النسبية والحدود الافتراضية التي تنطبق على Azure OpenAI:
| اسم الحد | قيمة الحد |
|---|---|
| موارد OpenAI لكل منطقة لكل اشتراك Azure | 30 |
| حدود الحصة النسبية الافتراضية DALL-E 2 | طلبان متزامنان |
| حدود الحصة النسبية الافتراضية DALL-E 3 | وحدتان للسعة (6 طلبات في الدقيقة) |
| الحد الأقصى للرمز المميزة للمطالبة لكل طلب | يختلف لكل نموذج. لمزيد من المعلومات، راجع نماذج خدمة Azure OpenAI |
| الحد الأقصى من توزيعات النماذج المحسّنة | 5 |
| العدد الكلي لمهام التدريب لكل مورد | 100 |
| الحد الأقصى لمهام التدريب المتزامنة قيد التشغيل لكل مورد | 1 |
| الحد الأقصى لمهام التدريب في قائمة الانتظار | 20 |
| الحد الأقصى للملفات لكل مورد (ضبط دقيق) | 50 |
| الحجم الإجمالي لجميع الملفات لكل مورد (ضبط دقيق) | 1 جيجابايت |
| الحد الأقصى لوقت مهمة التدريب (ستفشل المهمة في حالة تجاوزه) | 720 ساعة |
| الحد الأقصى لحجم مهمة التدريب (الرموز المميزة في ملف التدريب) x (# من العهود) | 2 مليار |
| الحد الأقصى لحجم جميع الملفات لكل تحميل (Azure OpenAI على بياناتك) | 16 ميغابايت |
الحد الأقصى للرقم أو الإدخالات في الصفيف باستخدام /embeddings |
2048 |
الحد الأقصى لعدد الرسائل /chat/completions |
2048 |
الحد الأقصى لعدد /chat/completions الدالات |
128 |
الحد الأقصى لعدد /chat completions الأدوات |
128 |
| الحد الأقصى لعدد وحدات معدل النقل المتوفرة لكل عملية نشر | 100,000 |
| الحد الأقصى للملفات لكل مساعد/مؤشر ترابط | 20 |
| الحد الأقصى لحجم الملف للمساعدين والضبط الدقيق | 512 ميغابايت |
| حد الرمز المميز المساعد | حد 2,000,000 رمز مميز |
حدود الحصص الإقليمية
تختلف الحصة النسبية الافتراضية للنماذج حسب النموذج والمنطقة. تخضع حدود الحصة النسبية الافتراضية للتغيير.
يتم وصف الحصة النسبية للنشر القياسي من حيث الرموز المميزة لكل دقيقة (TPM).
| المنطقة | GPT-4 | GPT-4-32K | GPT-4-Turbo | GPT-4-Turbo-V | GPT-35-Turbo | GPT-35-Turbo-Instruct | Text-Embedding-Ada-002 | text-embedding-3-small | تضمين نص-3-كبير | Babbage-002 | Babbage-002 - finetune | Davinci-002 | Davinci-002 - finetune | GPT-35-Turbo - finetune | GPT-35-Turbo-1106 - finetune | GPT-35-Turbo-0125 - finetune |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| australiaeast | 40 كيلو بايت | 80 كيلوبايت | 80 كيلوبايت | 30 كيلوبايت | 300 كيلوبايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| brazilsouth | - | - | - | - | - | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| canadaeast | 40 كيلو بايت | 80 كيلوبايت | 80 كيلوبايت | - | 300 كيلوبايت | - | 350 كيلو بايت | 350 كيلو بايت | 350 كيلو بايت | - | - | - | - | - | - | - |
| eastus | - | - | 80 كيلوبايت | - | 240 كيلو بايت | 240 كيلو بايت | 240 كيلو بايت | 350 كيلو بايت | 350 كيلو بايت | - | - | - | - | - | - | - |
| eastus2 | - | - | 80 كيلوبايت | - | 300 كيلوبايت | - | 350 كيلو بايت | 350 كيلو بايت | 350 كيلو بايت | - | - | - | - | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت |
| francecentral | 20 K | 60 كيلو بايت | 80 كيلوبايت | - | 240 كيلو بايت | - | 240 كيلو بايت | - | - | - | - | - | - | - | - | - |
| japaneast | - | - | - | 30 كيلوبايت | 300 كيلوبايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| northcentralus | - | - | 80 كيلوبايت | - | 300 كيلوبايت | - | 350 كيلو بايت | - | - | 240 كيلو بايت | 250 كيلو بايت | 240 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت |
| norwayeast | - | - | 150 كيلو بايت | - | - | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| southafricanorth | - | - | - | - | - | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| southcentralus | - | - | 80 كيلوبايت | - | 240 كيلو بايت | - | 240 كيلو بايت | - | - | - | - | - | - | - | - | - |
| southindia | - | - | 150 كيلو بايت | - | 300 كيلوبايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| وسط السويد | 40 كيلو بايت | 80 كيلوبايت | 150 كيلو بايت | 30 كيلوبايت | 300 كيلوبايت | 240 كيلو بايت | 350 كيلو بايت | - | - | 240 كيلو بايت | 250 كيلو بايت | 240 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت |
| شمال سويسرا | 40 كيلو بايت | 80 كيلوبايت | - | 30 كيلوبايت | 300 كيلوبايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| switzerlandwest | - | - | - | - | - | - | - | - | - | - | 250 كيلو بايت | - | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت | 250 كيلو بايت |
| uksouth | - | - | 80 كيلوبايت | - | 240 كيلو بايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| westeurope | - | - | - | - | 240 كيلو بايت | - | 240 كيلو بايت | - | - | - | - | - | - | - | - | - |
| westus | - | - | 80 كيلوبايت | 30 كيلوبايت | 300 كيلوبايت | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
| westus3 | - | - | 80 كيلوبايت | - | - | - | 350 كيلو بايت | - | - | - | - | - | - | - | - | - |
1 كيلوبايت = 1000 رمز مميز لكل دقيقة (TPM). يتم تعريف العلاقة بين TPM والطلبات في الدقيقة (RPM) حاليا على أنها 6 RPM لكل 1000 TPM.
أفضل الممارسات العامة للبقاء ضمن حدود المعدل
لتقليل المشكلات المتعلقة بحدود المعدلات، من المستحسن استخدام التقنيات التالية:
- تنفيذ منطق إعادة المحاولة في التطبيق الخاص بك.
- تجنب التغييرات الحادة في حمل العمل. زيادة حمل العمل تدريجيًا.
- اختبار أنماط زيادة التحميل المختلفة.
- قم بزيادة الحصة النسبية المعينة للتوزيع الخاص بك. نقل الحصة النسبية من نشر آخر، إذا لزم الأمر.
كيفية طلب زيادة الحصص النسبية والحدود الافتراضية
يمكن إرسال طلبات زيادة الحصة النسبية من صفحة الحصص النسبية في Azure OpenAI Studio. يرجى ملاحظة أنه نظرا للطلب الهائل، يتم قبول طلبات زيادة الحصة النسبية وسيتم ملؤها بالترتيب الذي يتم استلامها به. سيتم منح الأولوية للعملاء الذين ينشئون نسبة استخدام الشبكة التي تستهلك تخصيص الحصة النسبية الحالية، وقد يتم رفض طلبك إذا لم يتم استيفاء هذا الشرط.
بالنسبة إلى حدود الأسعار الأخرى، يرجى إرسال طلب خدمة.
الخطوات التالية
استكشف كيفية إدارة الحصة النسبية لنشر Azure OpenAI. تعرف على المزيد حول النماذج الأساس التي تعمل على تشغيل Azure OpenAI.