ما هو Azure Content Moderator؟
هام
تم إيقاف واجهات برمجة تطبيقات مراجعة مشرف المحتوى وأداة المراجعة عبر الإنترنت في 12/31/2021. لا تزال واجهات برمجة تطبيقات الإشراف متاحة.
إن Azure Content Moderator هي خدمة ذكاء اصطناعي تتيح لك التعامل مع المحتوى الذي يُحتمل أن يكون مسيئًا أو محفوفًا بالمخاطر أو غير مرغوب فيه بأي طريقة أخرى. يتضمن خدمة الإشراف على المحتوى التي تعمل بالطاقة الذكاء الاصطناعي والتي تقوم بمسح النصوص والصور ومقاطع الفيديو وتطبق علامات المحتوى تلقائيا.
قد ترغب في إنشاء برنامج لتصفية المحتوى في تطبيقك للامتثال للوائح أو الحفاظ على البيئة المقصودة للمستخدمين.
تحتوي هذه الوثائق على أنواع المقالات التالية:
- التشغيل السريع ويتضمن تعليمات البدء لإرشادك خلال تقديم الطلبات إلى الخدمة.
- تحتويالأدلة الإرشاديةعلى إرشادات لاستخدام الخدمة بطرق أكثر تحديداً أو تخصيصاً.
- توفرالمفاهيم تفسيرات مفصلة عن وظائف ومميزات الخدمة.
- تعد البرامج التعليمية أدلة أطول توضح لك كيفية استخدام الخدمة كمكون في حلول الأعمال الأوسع نطاقًا.
أين يتم استخدام هذه الخدمة
فيما يلي بعض السيناريوهات التي قد يتطلب فيها مطور البرامج أو الفريق وجود خدمة الإشراف على المحتوى:
- الأسواق الإلكترونية التي تشرف على كتالوجات المنتجات والمحتوى الآخر الذي ينشئه المستخدمون.
- شركات الألعاب التي تشرف على القطع الأثرية للألعاب التي ينشئها المستخدمون وغرف الدردشة.
- النظم الأساسية الاجتماعية للدردشة التي تشرف على الصور والنصوص والفيديو التي يضيفها مستخدموها.
- شركات وسائط المؤسسات التي تطبق الإشراف المركزي على محتواها.
- K-12 يقوم موفرو حلول التعليم من رياض الأطفال وحتى التعليم الثانوي بتصفية المحتوى غير المناسب للطلاب والمعلمين.
هام
لا يمكنك استخدام Content Moderator للكشف عن صور استغلال الأطفال غير القانونية. لكن مع ذلك، يمكن للمؤسسات المؤهلة استخدام PhotoDNA Cloud Service لفحص هذا النوع من المحتوى.
ما الذي تتضمنه هذه الخدمة
تتكون خدمة Content Moderator من عدة واجهات برمجة تطبيقات لخدمة الويب متاحة من خلال استدعاءات REST وNET SDK.
واجهات برمجة تطبيقات الإشراف
تشتمل خدمة Content Moderator على واجهات برمجة تطبيقات الإشراف، والتي تتحقق من عدم وجود مواد قد تكون غير لائقة أو مرفوضة.
يصف الجدول التالي الأنواع المختلفة لواجهات برمجة تطبيقات الإشراف على المحتوى.
| مجموعة واجهة برمجة تطبيقات | الوصف |
|---|---|
| الإشراف على النص | يقوم بفحص النص بحثًا عن محتوى مسيء أو محتوى جنسي صريح أو موحٍ جنسيًا والألفاظ النابية والبيانات الشخصية. |
| قوائم المصطلحات المخصصة | يفحص النص مقابل قائمة مخصصة من المصطلحات جنبًا إلى جنب مع المصطلحات المضمنة. استخدم القوائم المخصصة لحظر المحتوى أو السماح به وفقًا لنُهج المحتوى الخاصة بك. |
| الإشراف على الصور | يفحص الصور بحثًا عن محتوى للبالغين أو محتوى عِرقي، ويكتشف النص في الصور باستخدام إمكانية التعرف الضوئي على الأحرف (OCR)، ويكتشف الوجوه. |
| قوائم الصور المخصصة | يفحص الصور ضوئيًا مقابل قائمة مخصصة للصور. استخدم قوائم الصور المخصصة لتصفية مثيلات المحتوى المتكرر الشائع الذي لا تريد تصنيفه مرة أخرى. |
| الإشراف على الفيديو | يفحص مقاطع الفيديو بحثًا عن محتوى للبالغين أو محتوى عِرقي ويقوم بإرجاع علامات زمنية للمحتوى المذكور. |
خصوصية البيانات وأمانها
كما هو الحال مع جميع الخدمات المعرفية، يجب أن يكون المطورون الذين يستخدمون خدمة Content Moderator على دراية بنُهج Microsoft بشأن بيانات العملاء. راجع صفحة الخدمات المعرفية في مركز توثيق Microsoft لمعرفة المزيد.
الخطوات التالية
لبدء استخدام Content Moderator على مدخل الويب، اتبع جرب Content Moderator على الويب. أو أكمل مكتبة العميل أو REST API quickstart لتنفيذ السيناريوهات الأساسية في التعليمات البرمجية.