مراقبة إساءة الاستخدام في الكشف عن فعالية الوجه
يتيح لك الكشف عن فعالية الوجه في Azure الذكاء الاصطناعي اكتشاف مثيلات المحتوى المتكرر و/أو السلوكيات التي تشير إلى انتهاك قواعد السلوك أو شروط المنتج الأخرى القابلة للتطبيق والتخفيف منها. يوضح لك هذا الدليل كيفية العمل مع هذه الميزات لضمان توافق تطبيقك مع نهج Azure.
يمكن العثور على تفاصيل حول كيفية معالجة البيانات في صفحة البيانات والخصوصية والأمان .
هام
تعد مجموعات SDK لعميل Face للحيوية ميزة مسورة. يجب عليك طلب الوصول إلى ميزة الحياة عن طريق ملء نموذج كمية التعرف على الوجه. عند منح اشتراك Azure حق الوصول، يمكنك تنزيل Face liveness SDK.
مكونات مراقبة إساءة الاستخدام
هناك العديد من المكونات لمراقبة إساءة استخدام Face liveness:
- إدارة الجلسة: ينشئ نظام تطبيق الواجهة الخلفية جلسات الكشف عن الحياة نيابة عن المستخدمين النهائيين. تصدر خدمة Face رموز التخويل المميزة لجلسة عمل معينة، وكل منها صالح لعدد محدود من استدعاءات واجهة برمجة التطبيقات. عندما يواجه المستخدم النهائي فشلا أثناء الكشف عن الحياة، يتم طلب رمز مميز جديد. يسمح هذا لتطبيق الخلفية بتقييم مخاطر السماح بإعادة المحاولة الإضافية للحيوية. قد يشير عدد مفرط من عمليات إعادة المحاولة إلى محاولة غاشمة للقوة الغاشمة لتجاوز نظام الكشف عن الحياة.
- معرف الارتباط المؤقت: تطالبك عملية إنشاء جلسة العمل بتعيين GUID ارتباط 128 بت مؤقت (معرف فريد عمومي) لكل مستخدم نهاية لنظام التطبيق الخاص بك. يتيح لك ذلك إقران كل جلسة بفرد. يمكن لنماذج المصنف على الواجهة الخلفية للخدمة الكشف عن إشارات هجوم العرض التقديمي ومراقبة أنماط الفشل عبر استخدام GUID معين. يجب أن يكون هذا المعرف الفريد العمومي قابلا لإعادة التعيين عند الطلب لدعم التجاوز اليدوي لنظام التخفيف من إساءة الاستخدام التلقائي.
- التقاط نمط إساءة الاستخدام: تبحث خدمة الكشف عن الحياة في Azure الذكاء الاصطناعي Face في أنماط استخدام العملاء وتستخدم الخوارزميات والاستدلالات للكشف عن مؤشرات إساءة الاستخدام المحتملة. تأخذ الأنماط المكتشفة في الاعتبار، على سبيل المثال، التكرار والخطورة اللذين يتم عندهما الكشف عن محتوى هجوم العرض التقديمي في التقاط صورة العميل.
- المراجعة البشرية والقرار: عندما يتم وضع علامة على معرفات الارتباط من خلال التقاط نمط إساءة الاستخدام كما هو موضح أعلاه، لا يمكن إنشاء جلسات أخرى لتلك المعرفات. يجب السماح للموظفين المعتمدين بتقييم أنماط نسبة استخدام الشبكة وإما تأكيد التحديد أو تجاوزه استنادا إلى إرشادات وسياسات محددة مسبقا. إذا خلصت المراجعة البشرية إلى أن هناك حاجة إلى تجاوز، يجب عليك إنشاء GUID ارتباط مؤقت جديد للفرد من أجل إنشاء المزيد من الجلسات.
- الإعلام والإجراء: عندما يتم تأكيد حد السلوك المسيئة استنادا إلى الخطوات السابقة، يجب إعلام العميل بالتقرير عن طريق البريد الإلكتروني. باستثناء حالات إساءة الاستخدام الشديدة أو المتكررة، عادة ما يتم منح العملاء فرصة للشرح أو المعالجة - وتنفيذ آليات لمنع تكرار - السلوك المسيئة. قد يؤدي الفشل في معالجة السلوك، أو إساءة الاستخدام المتكررة أو الشديدة، إلى تعليق أو إنهاء أهلية الوصول المحدود لموارد و/أو قدرات Azure الذكاء الاصطناعي Face.