Wat is Azure Content Moderator?
Waarschuwing
Het Content Moderator review-hulpprogramma is nu afgeschaft en wordt op 31-12-2021 afgeschaft.
Azure Content Moderator is een AI-service waarmee u inhoud kunt afhandelen die mogelijk aanstootgevend, riskant of anderszins ongewenst is. Het bevat de op AI gebaseerde service om content te modereren waarmee tekst, afbeeldingen en video's worden gescand en automatisch content gemarkeerd wordt, evenals de Controletool, een online moderatoromgeving voor een team van mensen die inhoud beoordelen.
U kunt software toevoegen voor het filteren van inhoud aan uw app om te voldoen aan de regelgeving of om de beoogde omgeving voor gebruikers te behouden.
Deze documentatie bevat de volgende artikeltypen:
- Quickstarts zijn aan de slag-instructies om u te begeleiden bij het indienen van aanvragen bij de service.
- Instructiegidsen bevatten instructies voor het gebruik van de service op specifiekere of aangepaste manieren.
- Concepten bieden uitgebreide uitleg over de servicefunctionaliteit en -functies.
- Zelfstudies zijn langere handleidingen die laten zien hoe u de service kunt gebruiken als onderdeel van bredere bedrijfsoplossingen.
Waar het wordt gebruikt
Hieronder vindt u enkele scenario's waarin een softwareontwikkelaar of -team een service nodig hebben om toezicht te houden op content:
- Onlinemarktplaatsen die toezicht willen houden op productcatalogi en andere door gebruikers gegenereerde inhoud.
- Gamingbedrijven die toezicht willen houden op door gebruikers gegenereerde gameartefacten en chatruimten.
- Platforms voor sociale berichten die toezicht willen houden op afbeeldingen, tekst en video's die door gebruikers worden toegevoegd.
- Grote mediabedrijven die gecentraliseerd toezicht implementeren voor hun inhoud.
- Leveranciers van oplossingen voor lager en voortgezet onderwijs die willen filteren op inhoud die ongepast is voor leerlingen en docenten.
Belangrijk
U kunt Content Moderator niet gebruiken om illegale afbeeldingen van kindermisbruik te detecteren. Gekwalificeerde organisaties kunnen echter het scherm PhotoDNA Cloud Service gebruiken voor dit type inhoud.
Samenstelling van Content Moderator
De Content Moderator-service bestaat uit verschillende webservice-API's die beschikbaar zijn via zowel REST-aanroepen als een SDK voor .NET. Hiertoe behoort ook het Beoordelingsprogramma, waarmee menselijke revisoren de service kunnen verbeteren of de toezichtfunctie kunnen aanpassen.
Beheer-API's
De Content Moderator-service omvat Beheer-API’s, waarmee inhoud wordt gecontroleerd op materiaal dat mogelijk ongeschikt of aanstootgevend is.
In de volgende tabel worden de verschillende typen Beheer-API's beschreven.
| API-groep | Beschrijving |
|---|---|
| Beheer van tekst | Hiermee wordt tekst gescand op aanstootgevende inhoud, expliciet of suggestief seksuele inhoud, grof taalgebruik en persoonlijk gegevens. |
| Aangepaste terminologielijsten | Hiermee wordt tekst vergeleken met een aangepaste lijst met termen, naast de ingebouwde termen. U kunt aangepaste lijsten gebruiken om inhoud te blokkeren of toe te staan volgens uw eigen beleidsregels voor inhoud. |
| Beheer van afbeeldingen | Hiermee worden afbeeldingen gescand op erotische of racistische inhoud, wordt tekst in afbeeldingen gedetecteerd met de OCR-functie (optische tekenherkenning) en worden gezichten gedetecteerd. |
| Aangepaste afbeeldingslijsten | Hiermee worden afbeeldingen vergeleken met een aangepaste lijst van afbeeldingen. U kunt aangepaste afbeeldingslijsten gebruiken om te filteren op exemplaren van veelvoorkomende terugkerende inhoud die u niet opnieuw wilt classificeren. |
| Beheer van video | Hiermee worden video's gescand op erotische of racistische inhoud en worden tijdmarkeringen voor deze inhoud geretourneerd. |
Beoordelings-API's
Met de Beoordelings-API’s kunt u uw beheerpijplijn integreren met menselijke revisoren. Gebruik de bewerkingen Taken, Beoordelingen en Werkstroom om werkstromen voor menselijke beoordeling te maken en te automatiseren met het Beoordelingsprogramma (hieronder).
Notitie
De werkstroom-API is nog niet beschikbaar in de .NET SDK, maar kan worden gebruikt met het REST-eindpunt.
Beoordelingsprogramma
De Content Moderator-service omvat ook het webgebaseerde Beoordelingsprogramma dat als host fungeert voor de inhoudsbeoordelingen van menselijke moderators. De service wordt niet getraind door menselijke invoer, maar de combinatie van het werk van de service en de menselijke beoordelingsteams zorgt voor een juiste balans tussen de efficiëntie en de nauwkeurigheid. Het Beoordelingsprogramma biedt ook een gebruikersvriendelijke front-end voor verschillende Content Moderator-resources.
Gegevensprivacy en -beveiliging
Zoals geldt voor alle services van Cognitive Services, dienen ontwikkelaars die de Content Moderator-service gebruiken op de hoogte te zijn van het beleid van Microsoft inzake klantgegevens. Zie de pagina Cognitive Services (Engelstalig) in het Microsoft Trust Center voor meer informatie.
Volgende stappen
Om aan de slag te gaan met Content Moderator in het webportaal, gaat u naar Content Moderator op het web uitproberen. U kunt ook een quickstart voor de clientbibliotheek of REST API doorlopen om het basisscenario met code te implementeren.