كيفية تكوين عوامل تصفية المحتوى باستخدام خدمة Azure OpenAI
إشعار
يتمتع جميع العملاء بالقدرة على تعديل عوامل تصفية المحتوى وتكوين حدود الخطورة (منخفضة ومتوسطة وعالية). الموافقة مطلوبة لإيقاف تشغيل عوامل تصفية المحتوى جزئيا أو كليا. يمكن للعملاء المدارين التقدم بطلب للحصول على التحكم الكامل في تصفية المحتوى عبر هذا النموذج: Azure OpenAI Limited Access Review: Modified Content Filters. في هذا الوقت، لا يمكن أن تصبح عميلا مدارا.
يعمل نظام تصفية المحتوى المدمج في خدمة Azure OpenAI جنبا إلى جنب مع النماذج الأساسية، بما في ذلك نماذج إنشاء صور DALL-E. ويستخدم مجموعة من نماذج التصنيف متعددة الفئات للكشف عن أربع فئات من المحتوى الضار (العنف والكراهية والجنسية وإيذاء النفس) على أربعة مستويات خطورة على التوالي (آمنة ومنخفضة ومتوسطة وعالية) والمصنفات الثنائية الاختيارية للكشف عن مخاطر اختراق السجن والنص الموجود والرمز في المستودعات العامة. يتم تعيين تكوين تصفية المحتوى الافتراضي للتصفية عند حد الخطورة المتوسط لجميع الفئات الأربعة التي تضر بالمحتوى لكل من المطالبات والإكمال. وهذا يعني أن المحتوى الذي يتم اكتشافه على مستوى الخطورة متوسط أو مرتفع تتم تصفيته، بينما لا تتم تصفية المحتوى الذي تم اكتشافه عند مستوى الخطورة منخفض أو آمن بواسطة عوامل تصفية المحتوى. تعرف على المزيد حول فئات المحتوى ومستويات الخطورة وسلوك نظام تصفية المحتوى هنا. الكشف عن مخاطر اختراق السجن ونماذج النص والرمز المحمية اختيارية وإيقاف التشغيل بشكل افتراضي. بالنسبة للنص ونماذج التعليمات البرمجية للكسر والمواد المحمية، تسمح ميزة القابلية للتكوين لجميع العملاء بتشغيل النماذج وإيقاف تشغيلها. تكون النماذج متوقفة عن التشغيل بشكل افتراضي ويمكن تشغيلها وفقا للسيناريو الخاص بك. يجب أن تكون بعض النماذج قيد التشغيل لسيناريوهات معينة للاحتفاظ بالتغطية بموجب التزام حقوق النشر الخاصة بالعميل.
يمكن تكوين عوامل تصفية المحتوى على مستوى المورد. بمجرد إنشاء تكوين جديد، يمكن إقرانه بواحد أو أكثر من عمليات النشر. لمزيد من المعلومات حول نشر النموذج، راجع دليل توزيع الموارد.
تتوفر ميزة القابلية للتكوين في المعاينة وتسمح للعملاء بضبط الإعدادات، بشكل منفصل للمطالبات والإكمالات، لتصفية المحتوى لكل فئة محتوى بمستويات خطورة مختلفة كما هو موضح في الجدول أدناه. يتم تسمية المحتوى الذي تم اكتشافه على مستوى الخطورة "الآمن" في التعليقات التوضيحية ولكنه لا يخضع للتصفية وغير قابل للتكوين.
| تمت تصفية الخطورة | قابل للتكوين للمطالبات | قابل للتكوين للإكمال | الأوصاف |
|---|---|---|---|
| منخفض، متوسط، مرتفع | نعم | نعم | تكوين التصفية الأكثر صرامة. تتم تصفية المحتوى الذي تم اكتشافه عند مستويات الخطورة المنخفضة والمتوسطة والعالية. |
| متوسط، مرتفع | نعم | نعم | الإعداد الافتراضي. لا تتم تصفية المحتوى الذي تم اكتشافه عند مستوى الخطورة المنخفض، ويتم تصفية المحتوى في المتوسط والعالي. |
| درجة عالية | نعم | نعم | لا تتم تصفية المحتوى الذي تم اكتشافه عند مستويات الخطورة المنخفضة والمتوسطة. تتم تصفية المحتوى ذو مستوى الخطورة العالي فقط. |
| لا توجد عوامل تصفية | إذا تمت الموافقة* | إذا تمت الموافقة* | لا تتم تصفية أي محتوى بغض النظر عن مستوى الخطورة الذي تم اكتشافه. يتطلب الموافقة*. |
* يتمتع العملاء المعتمدون فقط بالتحكم الكامل في تصفية المحتوى ويمكنهم إيقاف تشغيل عوامل تصفية المحتوى جزئيا أو كليا. يمكن للعملاء المدارين فقط التقدم بطلب للحصول على التحكم الكامل في تصفية المحتوى عبر هذا النموذج: مراجعة الوصول المحدود ل Azure OpenAI: عوامل تصفية المحتوى المعدلة. في هذا الوقت، لا يمكن أن تصبح عميلا مدارا.
يتحمل العملاء مسؤولية التأكد من أن التطبيقات التي تدمج Azure OpenAI تتوافق مع قواعد السلوك.
| فئة التصفية | الإعداد الافتراضي | هل تم تطبيقه على المطالبة أو الإكمال؟ | الوصف |
|---|---|---|---|
| الكشف عن مخاطر اختراق السجن | إيقاف تشغيل | المطالبة | يمكن تشغيل لتصفية أو إضافة تعليق توضيحي لمطالبات المستخدم التي قد تعرض مخاطر اختراق السجن. لمزيد من المعلومات حول استهلاك التعليقات التوضيحية، تفضل بزيارة تصفية محتوى خدمة Azure OpenAI |
| المواد المحمية - التعليمات البرمجية | off | الاكتمال | يمكن تشغيل للحصول على مثال الاقتباس ومعلومات الترخيص في التعليقات التوضيحية لمقتطفات التعليمات البرمجية التي تطابق أي مصادر تعليمات برمجية عامة. لمزيد من المعلومات حول استهلاك التعليقات التوضيحية، راجع دليل مفاهيم تصفية المحتوى |
| مواد محمية - نص | off | الاكتمال | يمكن تشغيلها لتحديد محتوى النص المعروف ومنعه من العرض في إخراج النموذج (على سبيل المثال، كلمات الأغاني والوصفات ومحتوى الويب المحدد). |
تكوين عوامل تصفية المحتوى عبر Azure OpenAI Studio (معاينة)
توضح الخطوات التالية كيفية إعداد تكوين تصفية محتوى مخصص للمورد الخاص بك.
انتقل إلى Azure OpenAI Studio وانتقل إلى علامة التبويب عوامل تصفية المحتوى (في التنقل السفلي الأيمن، كما هو محدد بواسطة المربع الأحمر أدناه).
إنشاء تكوين جديد لتصفية المحتوى المخصص.
يؤدي هذا إلى طريقة عرض التكوين التالية، حيث يمكنك اختيار اسم لتكوين تصفية المحتوى المخصص.
هذه هي طريقة عرض تكوين تصفية المحتوى الافتراضي، حيث تتم تصفية المحتوى على مستويات متوسطة وعالية الخطورة لجميع الفئات. يمكنك تعديل مستوى خطورة تصفية المحتوى لكل من مطالبات المستخدم وإكمال النموذج بشكل منفصل (التكوين للمطالبات في العمود الأيسر والتكوين للإكمال في العمود الأيسر، كما هو محدد مع المربعات الزرقاء أدناه) لكل فئة من فئات المحتوى الأربع (يتم سرد فئات المحتوى على الجانب الأيسر من الشاشة، كما هو محدد مع المربع الأخضر أدناه). هناك ثلاثة مستويات خطورة لكل فئة قابلة للتكوين: منخفضة ومتوسطة وعالية. يمكنك استخدام شريط التمرير لتعيين حد الخطورة.
إذا حددت أن التطبيق أو سيناريو الاستخدام يتطلب تصفية أكثر صرامة لبعض فئات المحتوى أو كلها، يمكنك تكوين الإعدادات، بشكل منفصل للمطالبات والإكمالات، للتصفية عند مستويات خطورة أكثر من الإعداد الافتراضي. يظهر مثال في الصورة أدناه، حيث يتم تعيين مستوى التصفية لمطالبات المستخدم على التكوين الأكثر صرامة للكراهية والجنسية، مع تصفية المحتوى منخفض الخطورة مع المحتوى المصنف على أنه متوسط وعالي الخطورة (موضح في المربع الأحمر أدناه). في المثال، يتم تعيين مستويات التصفية لإكمال النموذج في التكوين الأكثر صرامة لجميع فئات المحتوى (المربع الأزرق أدناه). مع تكوين التصفية المعدل هذا في مكانه، ستتم تصفية المحتوى المنخفض والمتوسط والعالي الخطورة لفئات الكراهية والجنسية في مطالبات المستخدم؛ سيتم تصفية المحتوى المتوسط والعالي الخطورة لفئات الإيذاء الذاتي والعنف في مطالبات المستخدم؛ ستتم تصفية المحتوى المنخفض والمتوسط والعالي الخطورة لجميع فئات المحتوى في إكمال النموذج.
إذا تمت الموافقة على حالة الاستخدام الخاصة بك لعوامل تصفية المحتوى المعدلة كما هو موضح أعلاه، فستتلقى تحكما كاملا في تكوينات تصفية المحتوى ويمكنك اختيار إيقاف تشغيل التصفية جزئيا أو كليا. في الصورة أدناه، يتم إيقاف تشغيل التصفية للعنف (المربع الأخضر أدناه)، بينما يتم الاحتفاظ بالتكوينات الافتراضية للفئات الأخرى. بينما يؤدي ذلك إلى تعطيل وظيفة عامل التصفية للعنف، سيظل المحتوى مشروحا. لإيقاف تشغيل جميع عوامل التصفية والتعليقات التوضيحية، قم بإيقاف تشغيل عوامل التصفية والتعليقات التوضيحية (المربع الأحمر أدناه).
يمكنك إنشاء تكوينات متعددة لتصفية المحتوى وفقا لمتطلباتك.
لتشغيل النماذج الاختيارية، يمكنك تحديد أي من خانات الاختيار على الجانب الأيسر. عند تشغيل كل نموذج من النماذج الاختيارية، يمكنك الإشارة إلى ما إذا كان يجب على النموذج إضافة تعليق توضيحي أو تصفية.
يؤدي تحديد التعليق التوضيحي إلى تشغيل النموذج المعني وإرجاع التعليقات التوضيحية عبر استجابة واجهة برمجة التطبيقات، ولكنه لن يقوم بتصفية المحتوى. بالإضافة إلى التعليقات التوضيحية، يمكنك أيضا اختيار تصفية المحتوى عن طريق تبديل عامل التصفية إلى تشغيل.
يمكنك إنشاء تكوينات متعددة لتصفية المحتوى وفقا لمتطلباتك.
بعد ذلك، لتشغيل تكوين تصفية المحتوى المخصص، قم بتعيين تكوين إلى عملية نشر واحدة أو أكثر في المورد الخاص بك. للقيام بذلك، انتقل إلى علامة التبويب Deployments وحدد Edit deployment (موضح بالقرب من أعلى الشاشة في مربع أحمر أدناه).
انتقل إلى الخيارات المتقدمة (الموضحة في المربع الأزرق أدناه) حدد تكوين عامل تصفية المحتوى المناسب لهذا النشر من القائمة المنسدلة تصفية المحتوى (الموضحة بالقرب من أسفل مربع الحوار في المربع الأحمر أدناه).
حدد حفظ وإغلاق لتطبيق التكوين المحدد على النشر.
يمكنك أيضا تحرير تكوين عامل تصفية المحتوى وحذفه إذا لزم الأمر. للقيام بذلك، انتقل إلى علامة التبويب عوامل تصفية المحتوى وحدد الإجراء المطلوب (الخيارات الموضحة بالقرب من أعلى الشاشة في المربع الأحمر أدناه). يمكنك تحرير/حذف تكوين تصفية واحد فقط في كل مرة.
إشعار
قبل حذف تكوين تصفية المحتوى، ستحتاج إلى إلغاء تعيينه من أي عملية نشر في علامة التبويب عمليات التوزيع.
أفضل الممارسات
نوصي بإعلام قرارات تكوين تصفية المحتوى من خلال تحديد تكراري (على سبيل المثال، اختبار الفريق الأحمر واختبار الإجهاد والتحليل) وعملية القياس لمعالجة الأضرار المحتملة ذات الصلة بنموذج وتطبيق وسيناريو نشر معين. بعد تنفيذ عوامل التخفيف مثل تصفية المحتوى، كرر القياس لاختبار الفعالية. التوصيات وأفضل الممارسات الذكاء الاصطناعي المسؤولة ل Azure OpenAI، على أساسيمكن العثور على Microsoft Responsible الذكاء الاصطناعي Standard في نظرة عامة على الذكاء الاصطناعي المسؤول ل Azure OpenAI.
الخطوات التالية
- تعرف على المزيد حول ممارسات الذكاء الاصطناعي المسؤولة ل Azure OpenAI: نظرة عامة على ممارسات الذكاء الاصطناعي المسؤولة لنماذج Azure OpenAI.
- اقرأ المزيد حول فئات تصفية المحتوى ومستويات الخطورة باستخدام خدمة Azure OpenAI.
- تعرف على المزيد حول الفريق الأحمر من مقالة: مقدمة إلى نماذج اللغات الكبيرة (LLMs) الخاصة بالفريق الأحمر.