Catégories de préjudices dans Azure AI Content Safety

Ce guide décrit toutes les catégories de préjudices et toutes les évaluations que Azure AI Content Safety utilise pour marquer le contenu. Le contenu texte et le contenu d’image utilisent le même ensemble d’indicateurs.

Catégories préjudiciables

Content Safety reconnaît quatre catégories distinctes de contenu répréhensible.

Category	Description
Haine et impartialité	Les préjudices liés à la haine et à l’impartialité décrit des attaques ou des utilisations de langage des termes péjoratifs ou discriminatoires faisant référence à une personne ou à un groupe identitaire basés sur certains attributs de différenciation de ces groupes, notamment la race, l’origine ethnique, la nationalité, l’identité et l’expression de genre, l’orientation sexuelle, la religion, le statut d’immigration, les aptitudes, l’apparence personnelle et la taille du corps. L’impartialité consiste à veiller à ce que les systèmes d’IA traitent tous les groupes de personnes de manière équitable sans contribuer aux inégalités sociales existantes. À l’instar du discours haineux, les préjudices liés à l’impartialité dépendent du traitement disparate des groupes d’identité.
Contenu sexuel	La sexualité le langage relatif aux organes anatomiques et génitaux, aux relations amoureuses, aux actes présentés en termes érotiques ou affectueux, à la grossesse, aux actes sexuels physiques, y compris les actes présentés comme une agression ou un acte violent sexuel forcé contre sa volonté, la prostitution, la pornographie et les abus.
Violence	La violence décrit le langage lié aux actions physiques destinées à blesser, nuire, endommager ou tuer quelqu’un ou quelque chose ; cela décrit les armes, les fusils et les entités connexes, telles que les fabrications, les associations, la législation, etc.
Automutilation	L’automutilation décrit le langage lié aux actions physiques destinées à blesser ou nuire le corps d’une personne ou à se tuer.

La classification peut avoir plusieurs intitulés. Par exemple, lorsqu’un exemple de texte est exécuté via le modèle de modération de texte, il peut être classé à la fois comme du contenu à caractère sexuel et de la violence.

Niveaux de gravité

Chaque catégorie de préjudice appliquée par le service est également accompagnée d’une évaluation de niveau de gravité. Le niveau de gravité est destiné à indiquer la gravité des conséquences de l’affichage du contenu marqué d’un indicateur.

Texte: la version actuelle du modèle de texte prend en charge l’échelle de gravité complète de 0 à 7. Le classifieur détecte parmi toutes les gravités le long de cette échelle. Sur demande de l’utilisateur, il peut renvoyer des gravités sur une échelle réduite de 0, 2, 4 et 6; chacun des deux niveaux adjacents est mappé à un seul niveau.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Image: la version actuelle du modèle d’image prend en charge la version réduite de l’échelle de gravité complète de 0 à 7. Le classifieur retourne uniquement les gravités 0, 2, 4 et 6 ; chacun des deux niveaux adjacents est mappé à un seul niveau.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Contenu textuel

Avertissement

Avertissement

L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.

Définitions de gravité

Niveaux de gravité de haine et d’équité

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Du langage général péjoratif exprimant l’aversion contre des groupes d’identités Des mentions générales des attributs de groupe d’identités, tels que la race, l’ethnicité, la religion, etc. dans un contexte historique, géographique, médical et d’autres contextes similaires sans sentiment Des termes généraux qui n’ont aucune connotation raciale d’une intention injurieuse en-dehors du contexte	"I hate cats."
Niveau 1	Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général, mais qui peut acquérir une signification différente en fonction du contexte et qui ne fait pas la distinction entre les groupes d’identités et d’autres de manière biaisée ou négative. notamment : Des statistiques officielles, de la législation ou de la documentation Les actualités/médias Des ressources éducatives destinées à sensibiliser sur la diversité et la lutte contre la haine Des produits et publicités de traitement pour un blanchissement de peau Des mentions de swastika indo-eurasienne, du drapeau confédéré, de groupes autres que le KKK qui ont une ressemblance visuelle au KKK	"Black people should not be killed by police or mistreated just because of their skin color."
Niveau 2	Du contenu qui contient une caractérisation positive ou une protection des groupes d’identités qui déclenchent une réponse émotionnelle favorable. notamment : Des injures raciales orthographiées entièrement dans des documents de recherche, des dictionnaires ou des médias avec des citations directes Des déclarations par un orateur qui appartient à un groupe d’identités sans intention de cibler le même groupe d’identités Des injures, des jurons, et des insultes verbales ne ciblant pas un groupe d’identités Un discours de haine général qui cible des individus/groupes non identifiés sans cibler un groupe d’identités Un utilisateur cherchant à créer une liste noire de termes injurieux Des représentations de l’Allemagne nazie, Hitler, du drapeau confédéré et du symbolisme Ku Klux Klan dans les films, les jeux vidéo, les costumes, les jouets, les reconstitutions ou l’argot en ligne	"I hate you."
Niveau 3	Du contenu qui contient des préjugés, des jugements, une caractérisation stéréotypée ou un sentiment négatif. notamment : Une opinion basée sur des stéréotypes ou des sentiments négatifs L’expression de préjugés, de jugements ou d’opinions dogmatiques Des comparaisons négatives ou positives insistant sur la différence entre divers groupes. Des mentions dans des mondes fictifs La discrimination à l’embauche dans des offres d’emploi Des faits historiques et des artefacts liés à l’Allemagne nazie, au drapeau confédéré pendant la guerre civile américaine, ou au Ku Klux Klan	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Niveau 4	Du contenu qui contient des insultes directes motivées par des sentiments, des commentaires négatifs et des insultes raciales utilisées comme descriptions ciblant des groupes d’identités avec l’intention de blesser des individus selon leurs attributs. notamment : Des références utilisées pour cibler la race, la couleur de peau Des promotions de l’évitement social et de l’isolement La simulation et l’imitation d’attributs de groupes d’identités	"All [identity group] are ugly."
Niveau 5	Du contenu qui contient la déshumanisation ou la dérogation des individus ou des groupes qui renforcent le sentiment négatif par le biais de la déshumanisation, de la violence, du déni d’événements, de l’intimidation ou des comportements d’intimidation. notamment : Des textes qui refusent des événements historiques, bien documentés et violents tels que l’Holocauste Des textes qui décrivent des individus ou des groupes comme physiquement ou mentalement inférieurs en fonction de leur appartenance à un groupe d’identités Des textes qui interrogent, refusent ou dénigrent l’existence d’un groupe d’identités L’application d’attributs souhaités ou attendus Les théories eugéniques et « d’amélioration raciale » qui ciblent les groupes d’identités Les marchandises modernes qui contiennent des symboles nazi, du drapeau confédéré ou du KKK	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Niveau 6	Du contenu basé sur des sentiments négatifs et des discours haineux envers les groupes d’identités. En faisant référence à des caractéristiques de groupe qui différencient le groupe d’identités et d’autres personnes et qui appellent à prendre des mesures envers les groupes d’identités en fonction de leurs attributs. Cela peut inclure : De la propagande haineuse qui peut être perçue comme une menace directe pour ou un appel à la violence envers un groupe d’identités Des discours incendiaires, injurieux et vulgaires de haine Des textes qui prétendent la supériorité d’un groupe par rapport aux attributs des groupes d’identités pour justifier la discrimination, la ségrégation ou l’exclusion Des textes décrivant la joie concernant un événement violent qui ciblait un groupe d’identités	"Send [identity group] back to the gas chambers."
Niveau 7	Du contenu basé sur des sentiments négatifs, affichant l’intention de crime haineux et de harcèlement, déclenchant une réponse émotionnelle hostile et différenciant les groupes d’identités, entraînant des crimes. notamment : La préparation, l’éloge et la glorification de crimes de haines et de violence contre un groupe d’identités Des textes représentant du contenu de recrutement de groupes suprémacistes Des textes destinés à radicaliser et encourager le discours haineux contre un groupe d’identités	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Niveaux de gravité sexuelle

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes sexuels utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. Des mentions des relations familiales Du contenu inoffensif pour tous les publics cibles, y compris les enfants	"The sports bra and yoga pants were too tight for comfort."
Niveau 1	Du contenu qui contient des termes liés au sexe utilisés en général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment : Des statistiques officielles et la documentation sur les sujets liés au sexe Les actualités/médias Des termes anatomiques, l’anatomie sexuelle et le traitement médical Des ressources éducatives sur le sexe, le bien-être sexuel, la sensibilisation, etc. Des mentions de sexe biologique ou de descriptions de la reproduction sexuelle Des textes décrivant les relations romantiques en termes non graphiques	"Fewer young adults are having sex than in previous generations."
Niveau 2	Du contenu qui contient des termes liés au sexe dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment : Des mentions de textes littéraires/artistiques, de films, de sculptures, etc. qui contiennent des « mots cochons » limités ou de brèves scènes de nudité non explicite Des expériences personnelles liées au sexe en général, aux problèmes sexuels et aux traumatismes, le partage de mécanismes d’adaptation et de ressources pour résoudre ces problèmes Un utilisateur cherchant à créer une liste noire de termes sexuels Des mentions « lightcore » des actes sexuels et de la nudité	"The first time I had sex, I found it painful."
Niveau 3	Du contenu avec des termes sexuels dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées au sexe. notamment : Des expériences sexuelles personnelles passées ou présentes avec du contenu graphique	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Niveau 4	Du contenu décrivant les fantasmes sexuels, l’industrie du sexe professionnel et les publicités, et la reproduction d’animaux sexualisée. notamment : Des fantasmes de sexe de différents types, y compris l’imagination de nudité réelle ou fictive L’industrie du sexe professionnel sans descriptions des scènes de sexe Des publicités des préservatifs, des lubrifiants, des jouets sexuels, des vêtements, etc. Des descriptions de la reproduction sexuelle entre des animaux ou des personnages sous les traits d’animaux avec du contenu graphique Des mentions « softcore » des actes sexuels et de la nudité	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Niveau 5	Du contenu décrivant des spectacles ou des expériences érotiques en tant qu’expérience personnelle, du BDSM avec consentement clair, et histoires et sites web érotiques. notamment : Des mentions de massage sexuel, érotique ou tantrique, des strip clubs, des spectacles érotiques en tant qu’expérience personnelle (pas en tant que service professionnel) Des expériences personnelles et des descriptions liées aux attributs et pratiques BDSM en général ou dans des situations avec du contenu clair de pratique BDSM Des mentions de contenu érotique non commercial lié au désir sexuel ou au plaisir	"We both climaxed at the same time."
Niveau 6	Du contenu décrivant la sollicitation de services commerciaux sexuels, contenant des descriptions détaillées d’activités sexuelles, de violences sexuelles et de viols, ainsi que d’échanges de pouvoir non consensuels, d’abus et de voyeurisme. notamment : Des mentions de stimulation des organes génitaux avec les mains ou d’autres objets, de la masturbation, etc. Des fétichismes ou du contenu grossier impliquant des fluides corporels, des situations de contrôle sexuel ou des activités BDSM sans consentement clair Des textes décrivant la violence sexuelle, l’agression sexuelle, le viol ou l’abus de façon graphique Des textes qui attribuent des qualités positives à l’agression sexuelle Des textes qui cherchent ou fournissent des instructions pour effectuer des agressions sexuelles Des actes de chantage et de menaces pour révéler des images ou des vidéos sexuelles non consenties précédemment enregistrées	"I love forced sex, it's so much hotter."
Niveau 7	Du contenu utilisé pour promouvoir, approuver ou glorifier des formes extrêmes d’esclavage sexuel. Du contenu extrême ou illégal. notamment : Du sexe avec des animaux, des cadavres, etc. La pédophilie La recherche ou fourniture d’instructions sur le pédopiégeage Des références explicites ou potentielles à l’inceste Du recrutement pour du trafic sexuel humain	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Niveaux de gravité de violence

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes d’actions non-violentes, ou des termes liés à la violence utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Des objets communs lorsqu’ils ne sont pas utilisés comme armes Des armes à feu jouets ou des armes à feu factices Des mentions de cordes lorsqu’elles ne sont pas utilisées comme nœud coulant	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Niveau 1	Du contenu qui contient des termes ou des actions liés à la violence utilisés dans le sens général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment : Des sous-ensembles de textes qui contiennent des descriptions d’actes violents, si la contextualisation du texte intégral ne possède pas d’intention violente Des statistiques officielles et de la documentation sur les armes à feu, les armes, la violence domestique, la guerre, les militaires, etc. Des ressources éducatives liées à la violence Les actualités/médias Du contenu et des termes médicaux Des spécifications techniques d’armes à feu de chasse ou de tir Les pratiques de combat La lutte contre le terrorisme et les symboles terroristes non liés à ISIS/al-Qaïda	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Niveau 2	Du contenu qui contient des termes ou actes liés à la violence dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques et sans glorification ou approbation d’intentions malveillantes. notamment : De la narration à la première, deuxième et troisième personne dans les jeux vidéo, des textes littéraires/artistiques qui décrivent des scènes violentes ou graphiques Des astuces et recommandations de jeu Des expériences personnelles dans lesquelles une personne décrit comment elle a été exposée à un certain type de violence Des mentions de cordes lorsqu’elles sont utilisées comme un nœud coulant sans sujets humains présents, ou si ces derniers ne sont pas liés au nœud coulant Un utilisateur dont l’intention est de créer une liste noire de contenu violent	"She wishes she could have killed her whole family."
Niveau 3	Du contenu avec des actions ou termes violents dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à la violence. notamment : L’autorisation de cruauté envers certains animaux Des textes prétendant avoir un impact positif sur certains types de violence	"Some people just need to be slapped."
Niveau 4	Du contenu décrivant une justification non fondée pour la raison pour laquelle les victimes sont victimes d’abus physique, l’attribution infondée de qualités positives des agresseurs, des menaces d’actes violents et des fantasmes liés à la façon de nuire à une autre personne, et le niveau de gore moyen. notamment : Des textes qui blâment une victime ou qui décrivent les auteurs d’une façon positive Des descriptions graphiques de la violence et de la mort avec un niveau de gore moyen Un rapport d’autopsie, une enquête légale, un crime ou une scène de mort Des installations liées à la viande et la volaille, et le sacrifice religieux d’animaux Des références aux génocides historiques ou récents et aux événements de tir connus avec de nombreuses victimes, sans approbation ni glorification Des références aux événements terroristes et extrémistes violents, sans approbation ni glorification	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Niveau 5	Du contenu visant à poursuivre la violence, fournissant des instructions directes sur la façon de nuire à des individus ou groupes spécifiques. notamment : Des textes qui encouragent la violence physique contre des individus/groupes ciblés Des instructions sur la façon de causer des violences physiques à des individus ou à des animaux Des textes demandant des conseils sur la façon d’effectuer des actes violents sur des animaux, des individus ou des groupes Du harcèlement et de l’intimidation	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Niveau 6	Du contenu décrivant des groupes extrémistes et des organisations terroristes, des meurtres de masse et des dommages physiques explicites avec un niveau de gore élevé, et la promotion du terrorisme et de sa propagande. notamment : Du matériel de propagande terroriste ou extrémiste officiel et des idéologies violentes sur Internet Une incitation à effectuer une action violente	"We must kill them all. God wills it, and society will be better for it."
Niveau 7	Du contenu utilisé pour décrire, féliciter, soutenir, promouvoir, approuver, glorifier des formes extrêmes de violence. Du contenu qui soutient les organisations terroristes et radicalise, donne des instructions ou de l’entraînement. notamment : Le travail forcé, y compris des enfants, la servitude domestique ou le traitement médical forcé Du matériel de propagande extrémiste terroriste et violent en ligne qui glorifie les meurtres dans le cadre d’activités terroristes, et les offres d’aide à des organisations ou des causes terroristes Des textes qui cherchent des instructions sur l’affiliation à des groupes extrémistes terroristes et violents, parlant de la façon de recruter, d’influencer et de former des personnes à cette cause Des comportements de harcèlement illégal tels que le harcèlement ou la surveillance indésirable Des textes qui planifient et coordonnent les attaques sur des individus ou des groupes de personnes Des textes qui approuvent, glorifient ou fournissent des instructions sur le cannibalisme	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Niveaux de gravités d’automutilation

Niveau de gravité	Description	Exemple de texte
Niveau 0 – Sûr	Du contenu qui contient des termes d’automutilation utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Des mentions de la graisse corporelle, indicateurs d’indice de masse grasse par âge et sexe dans les contextes liés à la santé	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Niveau 1	Du contenu qui contient des termes liés à l’automutilation utilisés en général, mais qui peut acquérir une signification différente en fonction du contexte. notamment : Des statistiques officielles et de la documentation sur les blessures auto-suicidaires (NSSI), le suicide, etc. Des ressources éducatives liées à l’automutilation Les actualités/médias Du contenu et des termes médicaux Des actions qui décrivent une automutilation accidentelle, les conseils de premier secours, etc.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Niveau 2	Du contenu qui contient des termes liés à l’automutilation dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment : Des textes littéraires/artistiques, films, etc. illustrant des personnages qui prévoient ou commettent un suicide, effectuent de l’automutilation ou une alimentation désordonnée, sans glorification ni approbation Des textes où les actes d’automutilation ou le suicide sont représentés avec un niveau de gore faible Un utilisateur dont l’intention est de créer une liste noire de termes d’automutilation	"Oedipus stabbed his eyes in despair."
Niveau 3	Du contenu avec des actions ou termes d’automutilation dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à l’automutilation. notamment : Des expériences personnelles liées à l’automutilation, comme une demande d’aide avant de se blesser ou de commettre un suicide	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Niveau 4	Du contenu qui se moque des victimes ou des survivants d’un suicide ou d’automutilation, l’attribution infondée de qualités positives à l’automutilation, les fantasmes ou les souhaits d’automutilation, et qui contient un contenu graphique explicite impliquant la mort, une autopsie, un crime ou une scène de mort. notamment : L’automutilation présentée comme une solution à un problème, une détresse émotionnelle, ou un échappatoire à la douleur/l’agonie Des textes dans lequel l’automutilation est présentée avec un niveau de gore moyen, ainsi que des descriptions d’objets comme des couteaux, des pistolets, etc.	"It's hilarious when [identity group] kill themselves."
Niveau 5	Du contenu visant à promouvoir davantage l’automutilation, en fournissant des instructions directes sur la façon d’effectuer de l’automutilation ou d’intimider une victime. notamment : Des textes qui cherchent des conseils ou des recommandations sur la façon d’effectuer des actes d’automutilation, sauf pour le suicide Des textes qui décrivent des expériences personnelles passées et présentes d’automutilation qui contiennent des détails explicites Du harcèlement, de l’intimidation et de la mise en pression qui incite et promeut les actes d’automutilation	"Go kill yourself, you are worthless."
Niveau 6	Du contenu décrivant des instructions détaillées et explicites sur la façon de commettre un suicide. notamment : Des textes qui indiquent comment écrire un message d’adieu à votre famille	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Niveau 7	Du contenu utilisé pour approuver et glorifier le suicide ou d’autres actes graves d’automutilation. notamment : L’auto-décapitation L’immolation	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Contenu du fichier image

Avertissement

Avertissement

L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.

Définitions de gravité

Niveaux de gravité de haine et d’équité

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais peut contenir des images liées à la haine et à l’équité sans sentiment ou un sentiment neutre de manière non discriminatoire dans les contextes suivants ou ceux similaires à : Le journalisme Historique Médecine Informations juridiques Éducatif Géographique	Les drapeaux non confédérés, par exemple des drapeaux de pays ou d’États qui contiennent des croix Une image du drapeau Union Jack de la Grande-Bretagne Une représentation de l’émancipation des personnes esclaves aux États-Unis dans des photos historiques
Bas	Du contenu qui contient des sentiments positifs, des faux sentiments positifs ou des sentiments négatifs et biaisés différenciant les groupes d’identités. Ce contenu est destiné à déclencher une réponse émotionnelle. notamment : Protection Du symbolisme nazi, un drapeau confédéré, du symbolisme Ku Klux Klan Les stéréotypes Discrimination à l’embauche	Les représentations du mouvement « No Hate Speech » Les représentations des candidats d’emploi dépriorisés tels que les candidats handicapés dans les milieux d’entretien
Moyenne	Du contenu qui contient un sentiment négatif sur les groupes d’identités et d’autres personnes qui mènent à la promotion d’une action contre des groupes d’identité et des sentiments de supériorité. notamment : Des insultes, de l’isolation, des moqueries Des drapeaux nazis, des drapeaux confédérés, et des variations et de la marchandise LGBTQIA+	Des images promouvant l’évitement social de [groupes d’identité] Des images représentant la théorie de l’amélioration raciale et l’eugénique
Forte	Du contenu qui contient des sentiments négatifs et des discours haineux envers les groupes d’identité menant à la génération de discours haineux ou à des crimes haineux. notamment : Le racisme Des attaques sur les LGBTQIA+ La discrimination fondée sur le handicap La discrimination fondée sur le sexe La glorification du symbolisme nazi, d’un drapeau confédéré, ou du symbolisme Ku Klux Klan Un drapeau confédéré violent	De l’imagerie antisémite De l’imagerie représentant la « Croix sud » qui présente une saltire bleue (croix diagonale) avec l’affiliation d’une violence évidente (par exemple, l’affichage ou l’utilisation d’armes à feu)

Niveaux de gravité sexuelle

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liées au sexe utilisées dans un sens général. notamment : Les relations familiales et romantiques La nudité non-sexuelle Clothing Les objets courants Une pose ou activité non sexuelle L’accouplement animal Le bien-être sexuel	Des représentations de câlins ou de contact physique non-sexuel Des représentations de marques physiques d’affections comme des baisers sans la langue et sans nudité
Bas	Du contenu qui contient des comportements ou des actes sexuellement suggestifs. notamment : Les expériences personnelles Le mannequinat La nudité dans l’art L’art du corps Un spectacle osé	Des représentations de personnes
Moyenne	Du contenu qui contient des contenus érotiques et/ou pornographiques commerciaux et/ou amateurs sans pénétration photographique visuelle et des participants nus ou semi-nus impliqués dans des scènes sexuelles destinées à l’excitation sexuelle. notamment : Du mannequinat sexuel De la nudité soft dans l’art Des emplois sexuels ou sex shops Une activité sexuelle masquée Les coulisses des productions pornographiques Du pole dancing	Des représentations de rapports qui peuvent être partiellement obstrués mais toujours clairement présents dans l’image
Forte	Du contenu qui contient des représentations détaillées explicites des organes sexuels et des actes sexuels, y compris des actes illégaux. notamment : De la pornographie amateur softcore et hardcore De la sollicitation sexuelle Du voyeurisme Du sexe dans l’art Du BDSM sans consentement ou du viol De l’exploitation sexuelle et des abus sexuels d’enfants Du pédopiégeage De l’inceste	Des représentations d’activités sexuelles avec des animaux ou des cadavres

Niveaux de gravité de violence

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liés à la violence utilisées dans un sens général. notamment : Une pose de sommeil ou de repos Les objets courants Une activité non violente Des cordes non utilisées comme nœud coulant Des outils à lame utilisés dans la cuisine/couture Des blessures, des cicatrices et les traitements chirurgicaux Les sports de chasse et de tir Les armes jouets et factices Les pratiques de combat Les dommages aux objets et le vandalisme Le symbolisme terroriste non marqué	Des représentations d’armes et d’outils à lames non réalistes
Bas	Du contenu qui contient des images et des actes liés à la violence dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment : L’affichage et l’utilisation d’armes à feu, d’armes et d’outils à lame Un cadavre non réaliste De la violence non réaliste Des armes animées Des blessures faibles et des expériences personnelles Des cordes utilisées en tant que nœud coulant La mort dans des contextes historiques, éducatifs ou funéraires Le symbolisme terroriste non réaliste Des combats de taureaux	Des représentations de drapeaux d’ISIS/al-Qaïda
Moyenne	Du contenu qui contient une violence graphique modérée et des actes violents visant une cible identifiée. notamment : Une autopsie Une scène de crime ou de mort Une mort animale (naturelle ou de chasse), du sacrifice animal, de la cruauté envers les d’animaux L’esclavage Le génocide et les meurtres de masse dans des contextes historiques et éducatifs Un abattoir La violence familiale et les violences physiques L’intimidation Les armes et armes à feu utilisées contre une cible	Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu
Forte	Du contenu qui contient des représentations détaillées explicites de la violence et des actes violents avec un niveau de gore élevé. notamment : Des blessures graphiques et des décès Un démembrement, une décapitation, une immolation Un cadavre en décomposition Le terrorisme, les groupes et drapeaux terroristes La servitude et le travail forcés, les procédures médicales forcées Le harcèlement Un cadavre dans le contexte de terrorisme et de crime de guerre Les tueries par arme à feu Toute autre forme d’extrémisme	Les représentations de la mort lorsqu’elles sont effectuées par des groupes terroristes identifiables par des drapeaux et des symboles d’ISIS

Niveaux de gravités d’automutilation

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liées à l’automutilation utilisées dans un sens général. notamment : Un faible taux de graisse corporelle Les actes non liés à l’automutilation Une blessure accidentelle du corps	Des représentations de saut avec un parachute hors d’un avion
Bas	Du contenu qui contient des images et des actes liés à l’automutilation dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment : Des cicatrices Une blessure d’automutilation en cours de guérison Une automutilation non réaliste Des individus ou animaux émaciés	Des représentations des actes, des outils, des blessures et de l’état émotionnel liés à l’automutilation
Moyenne	Du contenu qui contient des images graphiques modérées liées à l’automutilation et au suicide. notamment : Une autopsie Une scène de crime ou de mort L’intimidation	Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu et le forcer à s’automutiler
Forte	Du contenu qui contient des représentations détaillées explicites de l’automutilation avec un niveau de gore élevé. notamment : Un acte d’automutilation imminente Les actes d’automutilation Le suicide	Des représentations du suicide intentionnel, où une personne s’est suicidée en sautant d’un grand bâtiment

Étapes suivantes

Suivez un guide de démarrage rapide pour commencer à utiliser Azure AI Sécurité du Contenu dans votre application.

Démarrage rapide de Content Safety