Co to jest zawartość sztucznej inteligencji platformy Azure Sejf ty?
Usługa Azure AI Content Sejf ty wykrywa szkodliwą zawartość wygenerowaną przez użytkownika i wygenerowaną przez sztuczną inteligencję w aplikacjach i usługach. Usługa Azure AI Content Sejf ty zawiera interfejsy API tekstu i obrazu, które umożliwiają wykrywanie szkodliwych materiałów. Mamy również interaktywną zawartość Sejf ty Studio, która umożliwia wyświetlanie, eksplorowanie i wypróbowanie przykładowego kodu do wykrywania szkodliwej zawartości w różnych modalnościach.
Oprogramowanie do filtrowania zawartości może pomóc aplikacji w przestrzeganiu przepisów lub zachowaniu zamierzonego środowiska dla użytkowników.
Ta dokumentacja zawiera następujące typy artykułów:
- Przewodniki Szybki start to instrukcje wprowadzające, które ułatwiają wysyłanie żądań do usługi.
- Przewodniki z instrukcjami zawierają instrukcje dotyczące korzystania z usługi w bardziej szczegółowy lub dostosowany sposób.
- Pojęcia zawierają szczegółowe wyjaśnienia dotyczące funkcjonalności i funkcji usługi.
Miejsce użycia
Poniżej przedstawiono kilka scenariuszy, w których deweloper oprogramowania lub zespół wymaga usługi con tryb namiotu ration:
- Platformy handlowe online, które moderowały katalogi produktów i inną zawartość wygenerowaną przez użytkownika.
- Firmy zajmujące się grami, które moderowały artefakty gier generowane przez użytkownika i pokoje rozmów.
- Platformy obsługi wiadomości społecznościowych, które moderują obrazy i tekst dodany przez użytkowników.
- Przedsiębiorstwa medialne, które implementują scentralizowane moderowanie zawartości.
- Dostawcy rozwiązań edukacyjnych K-12 odfiltrowuje zawartość nieodpowiednią dla uczniów i nauczycieli.
Ważne
Nie można użyć Sejf zawartości usługi Azure AI do wykrywania nielegalnych obrazów wykorzystywania dzieci.
Typy produktów
W tej usłudze są dostępne różne typy analiz. W poniższej tabeli opisano obecnie dostępne interfejsy API.
| Typ | Funkcje |
|---|---|
| Interfejs API analizowania tekstu | Skanuje tekst pod kątem treści seksualnych, przemocy, nienawiści i samookaleczenia z wieloma poziomami ważności. |
| Analizowanie interfejsu API obrazu | Skanuje obrazy pod kątem treści seksualnych, przemocy, nienawiści i samookaleczenia z wieloma poziomami ważności. |
| Monitowanie osłon (wersja zapoznawcza) | Skanuje tekst pod kątem ryzyka ataku wejściowego użytkownika na model dużego języka. Szybki start |
| Wykrywanie naziemności (wersja zapoznawcza) | Wykrywa, czy odpowiedzi tekstowe dużych modeli językowych (LLM) są uziemione w materiałach źródłowych dostarczanych przez użytkowników. Szybki start |
| Wykrywanie tekstu chronionego materiału (wersja zapoznawcza) | Skanuje tekst wygenerowany przez sztuczną inteligencję pod kątem znanej zawartości tekstowej (na przykład teksty piosenek, artykuły, przepisy, wybrana zawartość internetowa). Szybki start |
Content Sejf ty Studio
Usługa Azure AI Content Sejf ty Studio to narzędzie online przeznaczone do obsługi potencjalnie obraźliwych, ryzykownych lub niepożądanych treści przy użyciu najnowszych modeli uczenia maszynowego tryb namiotu ration. Udostępnia szablony i dostosowane przepływy pracy, umożliwiając użytkownikom wybieranie i tworzenie własnego systemu con tryb namiotu ration. Użytkownicy mogą przekazać własną zawartość lub wypróbować ją z udostępnioną przykładową zawartością.
Zawartość Sejf ty Studio nie tylko zawiera gotowe do użycia modele sztucznej inteligencji, ale także wbudowane listy zablokowanych firmy Microsoft, aby flagować wulgaryzmy i być na bieżąco z nowymi trendami. Możesz również przekazać własne listy zablokowanych, aby zwiększyć zakres szkodliwej zawartości specyficznej dla twojego przypadku użycia.
Program Studio umożliwia również skonfigurowanie przepływu pracy moderowania, w którym można stale monitorować i poprawiać wydajność con tryb namiotu ration. Może to pomóc w spełnieniu wymagań dotyczących zawartości ze wszystkich rodzajów branż, takich jak gry, media, edukacja, handel elektroniczny i inne. Firmy mogą łatwo połączyć swoje usługi z programem Studio i mieć ich con tryb namiotu rated w czasie rzeczywistym, niezależnie od tego, czy są generowane przez użytkownika, czy generowane przez sztuczną inteligencję.
Wszystkie te możliwości są obsługiwane przez program Studio i jego zaplecze; klienci nie muszą martwić się o tworzenie modeli. Możesz dołączyć dane w celu szybkiej weryfikacji i odpowiednio monitorować wskaźniki KPI, takie jak metryki techniczne (opóźnienie, dokładność, kompletność) lub metryki biznesowe (szybkość blokowania, ilość bloków, proporcje kategorii, proporcje języka i inne). Dzięki prostym operacjom i konfiguracjom klienci mogą szybko testować różne rozwiązania i znajdować najlepsze rozwiązanie, zamiast poświęcać czas na eksperymentowanie z modelami niestandardowymi lub ręczne moderowanie.
Funkcje usługi Content Sejf ty Studio
W aplikacji Content Sejf ty Studio dostępne są następujące funkcje usługi Azure AI Content Sejf ty:
Moderowanie zawartości tekstu: za pomocą narzędzia moderowania tekstu można łatwo uruchamiać testy zawartości tekstowej. Niezależnie od tego, czy chcesz przetestować jedno zdanie, czy cały zestaw danych, nasze narzędzie oferuje przyjazny dla użytkownika interfejs, który umożliwia ocenę wyników testów bezpośrednio w portalu. Możesz eksperymentować z różnymi poziomami poufności, aby skonfigurować filtry zawartości i zarządzanie listami zablokowanymi, zapewniając, że zawartość jest zawsze moderowana zgodnie z dokładnymi specyfikacjami. Ponadto dzięki możliwości eksportowania kodu możesz zaimplementować narzędzie bezpośrednio w aplikacji, usprawniając przepływ pracy i oszczędzając czas.
Moderowanie zawartości obrazu: za pomocą narzędzia moderowania obrazów można łatwo uruchamiać testy na obrazach, aby upewnić się, że spełniają one standardy zawartości. Nasz przyjazny dla użytkownika interfejs umożliwia ocenę wyników testów bezpośrednio w portalu i eksperymentowanie z różnymi poziomami poufności w celu skonfigurowania filtrów zawartości. Po dostosowaniu ustawień można łatwo wyeksportować kod w celu zaimplementowania narzędzia w aplikacji.
Monitorowanie aktywności online: zaawansowana strona monitorowania umożliwia łatwe śledzenie użycia i trendów interfejsu API moderowania w różnych modalnościach. Dzięki tej funkcji można uzyskać dostęp do szczegółowych informacji o odpowiedzi, w tym dystrybucji kategorii i ważności, opóźnienia, błędu i wykrywania listy zablokowanych. Te informacje zawierają pełny przegląd wydajności con tryb namiotu ration, co umożliwia optymalizację przepływu pracy i zapewnienie, że zawartość jest zawsze moderowana zgodnie z dokładnymi specyfikacjami. Dzięki przyjaznemu dla użytkownika interfejsowi możesz szybko i łatwo nawigować po stronie monitorowania, aby uzyskać dostęp do informacji potrzebnych do podejmowania świadomych decyzji dotyczących strategii con tryb namiotu ration. Masz narzędzia, które należy zachować na bieżąco z wydajnością con tryb namiotu ration i osiągnąć cele zawartości.
Wymagania dotyczące danych wejściowych
Domyślna maksymalna długość przesyłania tekstu to 10 000 znaków. Jeśli chcesz przeanalizować dłuższe bloki tekstu, możesz podzielić tekst wejściowy (na przykład przez interpunkcję lub odstępy) na wiele powiązanych przesłanych.
Maksymalny rozmiar przesyłania obrazów wynosi 4 MB, a wymiary obrazu muszą zawierać się między 50 x 50 pikseli a 2048 x 2048 pikseli. Obrazy mogą być w formatach JPEG, PNG, GIF, BMP, TIFF lub WEBP.
Zabezpieczenia
Zarządzanie dostępem przy użyciu identyfikatora Entra firmy Microsoft lub tożsamości zarządzanej
W przypadku zwiększonych zabezpieczeń możesz użyć identyfikatora Entra firmy Microsoft lub tożsamości zarządzanej (MI) do zarządzania dostępem do zasobów.
- Tożsamość zarządzana jest automatycznie włączana podczas tworzenia zasobu Content Sejf ty.
- Identyfikator Entra firmy Microsoft jest obsługiwany zarówno w scenariuszach interfejsu API, jak i zestawu SDK. Zapoznaj się z ogólnymi wytycznymi usług sztucznej inteligencji w temacie Authenticating with Microsoft Entra ID (Uwierzytelnianie za pomocą identyfikatora Entra firmy Microsoft). Możesz również udzielić dostępu innym użytkownikom w organizacji, przypisując im role użytkowników i czytelnika usług Cognitive Services. Aby dowiedzieć się więcej na temat udzielania użytkownikom dostępu do zasobów platformy Azure przy użyciu witryny Azure Portal, zapoznaj się z przewodnikiem Kontrola dostępu oparta na rolach.
Szyfrowanie danych w stanie spoczynku
Dowiedz się, jak usługa Azure AI Content Sejf ty obsługuje szyfrowanie i odszyfrowywanie danych. Klucze zarządzane przez klienta (CMK), znane również jako Bring Your Own Key (BYOK), zapewniają większą elastyczność tworzenia, obracania, wyłączania i odwoływanie kontroli dostępu. Możesz również przeprowadzać inspekcję kluczy szyfrowania używanych do ochrony danych.
Cennik
Obecnie usługa Azure AI Content Sejf ty ma warstwę cenową F0 i S0.
Limity usługi
Obsługa języków
Modele zawartości Sejf ty zostały specjalnie przeszkolone i przetestowane w następujących językach: angielski, niemiecki, japoński, hiszpański, francuski, włoski, portugalski i chiński. Jednak usługa może działać w wielu innych językach, ale jakość może się różnić. We wszystkich przypadkach należy przeprowadzić własne testy, aby upewnić się, że działa ona w danym zastosowaniu.
Aby uzyskać więcej informacji, zobacz Obsługa języka.
Region/lokalizacja
Aby użyć interfejsów API Sejf zawartości, musisz utworzyć zasób zawartości usługi Azure AI Sejf ty w obsługiwanych regionach. Obecnie jest ona dostępna w następujących regionach świadczenia usługi Azure:
- Australia Wschodnia
- Kanada Wschodnia
- Central US
- East US
- Wschodnie stany USA 2
- Francja Środkowa
- Japonia Wschodnia
- Północno-środkowe stany USA
- South Central US
- Szwajcaria Północna
- Południowe Zjednoczone Królestwo
- West Europe
- Zachodnie stany USA 2
- Szwecja Środkowa
Funkcje publicznej wersji zapoznawczej, takie jak monity osłony i wykrywanie chronionych materiałów, są dostępne w następujących regionach świadczenia usługi Azure:
- East US
- West Europe
Możesz skontaktować się z nami , jeśli potrzebujesz innych regionów dla Twojej firmy.
Współczynniki zapytań
| Warstwa cenowa | Żądania na 10 sekund (RPS) |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Jeśli potrzebujesz szybszej stawki, skontaktuj się z nami , aby poprosić.
Kontakt z nami
Jeśli utkniesz, wyślij nam wiadomość e-mail lub użyj widżetu opinii w prawym górnym rogu dowolnej strony dokumentacji.
Następne kroki
Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z usługi Azure AI Content Sejf ty w aplikacji.