Was gibt es Neues bei Azure KI Inhaltssicherheit?
Informieren Sie sich über die Neuerungen im Dienst. Bei diesen Elementen kann es sich um Versionshinweise, Videos, Blogbeiträge und andere Arten von Informationen handeln. Legen Sie ein Lesezeichen für diese Seite an, um aktuelle Informationen zu neuen Features, Verbesserungen, Fixes und Dokumentationsaktualisierungen zu erhalten.
März 2024
Öffentliche Vorschau Prompt Shields
Zuvor als Erkennung von Jailbreak-Risiken bezeichnet, erkennt dieses aktualisierte Feature Benutzereingabe Einschleusungs-Angriffe, in denen Benutzer absichtlich Systemrisiken ausnutzen, um nicht autorisiertes Verhalten aus großem Sprachmodell zu erregen. Prompt Shields analysiert sowohl direkte Benutzereingabeaufforderungsangriffe als auch indirekte Angriffe, die in Eingabedokumente oder Bilder eingebettet sind. Weitere Informationen finden Sie unter Prompt Shields.
Öffentliche Vorschau der Groundedness-Erkennung
Die Groundedness-Erkennungs-API erkennt, ob sich die Textantworten großer Sprachmodelle (LLMs) auf die von den Benutzern bereitgestellten Quellmaterialien stützen. Unbegründetheit bezieht sich auf Fälle, in denen die LLMs Informationen produzieren, die nicht sachlich sind oder gegenüber dem, was in den Quellmaterialien enthalten war, ungenau sind. Weitere Informationen finden Sie unter Groundedness-Erkennung.
Januar 2024
Allgemeine Verfügbarkeit des Content Safety SDK
Der Dienst „Azure KI Inhaltssicherheit“ ist jetzt allgemein über die folgenden Clientbibliothek-SDKs verfügbar.
- C#:Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- Python:Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- Java:Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- JavaScript:Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
Wichtig
Die öffentlichen Vorschauversionen der Azure KI Content Safety SDKs sind ab dem 31. März 2024 veraltet. Aktualisieren Sie Ihre Anwendungen für die Verwendung der GA-Versionen.
November 2023
Jailbreak-Risiko- und geschützte Materialerkennung (Vorschau)
Mit den neuen Jailbreak-Risikoerkennungs- und geschützten Materialerkennungs-APIs können Sie einige der Risiken verringern, wenn Sie generative KI verwenden.
- Jailbreak-Risikoerkennung scannt Text für das Risiko eines Jailbreak-Angriffs auf ein großes Sprachmodell. Schnellstart
- Die Erkennung geschützter Materialtext überprüft KI-generierten Text auf bekannte Textinhalte (z. B. Songtexte, Artikel, Rezepte, ausgewählte Webinhalte). Schnellstart
Jailbreak-Risiko- und geschützte Materialerkennung sind in den Regionen „USA, Osten“ und „Europa, Westen“ verfügbar.
Oktober 2023
Azure KI Inhaltssicherheit ist allgemein verfügbar (General Availability, GA)
Der Azure KI-Inhaltssicherheits-Dienst ist jetzt allgemein als Clouddienst verfügbar.
- Der Dienst ist in vielen weiteren Azure-Regionen verfügbar. Eine Liste finden Sie in der Übersicht.
- Die Rückgabeformate der Analyse-APIs wurden geändert. Die neuesten Beispiele finden Sie in den Schnellstarts.
- Die Namen und Rückgabeformate mehrerer APIs wurden geändert. Eine vollständige Liste der Breaking Changes finden Sie im Migrationsleitfaden. Andere Leitfäden und Schnellstarts entsprechen jetzt der GA-Version.
Java- und JavaScript-SDKs für Azure KI Inhaltssicherheit
Der Azure KI-Inhaltssicherheits-Dienst ist jetzt über Java- und JavaScript-SDKs verfügbar. Die SDKs sind in Maven und npm verfügbar. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.
Juli 2023
Azure KI Inhaltssicherheit C#-SDK
Der Azure KI Content Safety-Dienst ist jetzt über ein C#-SDK verfügbar. Das SDK steht unter NuGet zur Verfügung. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.
Mai 2023
Azure KI Inhaltssicherheit (öffentliche Vorschau)
Azure KI Content Safety erkennt Material, das möglicherweise anstößig, risikobehaftet oder anderweitig unerwünscht ist. Dieser Dienst bietet modernste Text- und Bilderkennungsmodelle zum Ausmachen problematischer Inhalte. Azure KI Content Safety trägt dazu bei, Anwendungen und Dienste vor schädlichen von Benutzern und KI generierten Inhalten zu schützen. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.