Wskazówki dotyczące integracji i odpowiedzialnego korzystania z usługi Personalizacja

  • Artykuł

Ważne

Od 20 września 2023 r. nie będzie można tworzyć nowych zasobów usługi Personalizacja. Usługa Personalizacja jest wycofywana 1 października 2026 r.

Firma Microsoft pomaga klientom w odpowiedzialnym tworzeniu i wdrażaniu rozwiązań przy użyciu usługi Azure AI Personalizator. Nasze podejście oparte na zasadzie podtrzymuje osobistą agencję i godność, biorąc pod uwagę system sztucznej inteligencji:

  • Sprawiedliwość, niezawodność i bezpieczeństwo.
  • Prywatność i zabezpieczenia.
  • Inkluzywność.
  • Przejrzystość.
  • Odpowiedzialność człowieka.

Te zagadnienia odzwierciedlają nasze zaangażowanie w opracowywanie odpowiedzialnej sztucznej inteligencji.

Ogólne wytyczne dotyczące integracji i zasad odpowiedzialnego używania

Gdy wszystko będzie gotowe do integracji i odpowiedzialnego używania produktów lub funkcji opartych na sztucznej inteligencji, następujące działania pomogą Ci skonfigurować się pod kątem powodzenia:

  • Dowiedz się, co może zrobić. W pełni oceń potencjał personalizacji, aby zrozumieć jego możliwości i ograniczenia. Dowiedz się, jak będzie działać w konkretnym scenariuszu i kontekście, dokładnie testując je przy użyciu rzeczywistych warunków i danych.

  • Przestrzegaj prawa osoby fizycznej do prywatności. Zbieraj tylko dane i informacje od osób fizycznych w uzasadnionych i uzasadnionych celach. Używaj tylko danych i informacji, które mają zgodę na korzystanie z tego celu.

  • Uzyskaj przegląd prawny. Uzyskaj odpowiednią poradę prawną, aby przejrzeć usługę Personalizacja i sposób jej używania w rozwiązaniu, szczególnie w przypadku korzystania z niej w aplikacjach poufnych lub o wysokim ryzyku. Dowiedz się, jakie ograniczenia mogą być potrzebne do pracy, oraz odpowiedzialności, aby rozwiązać wszelkie problemy, które mogą pojawić się w przyszłości.

  • Mieć człowieka w pętli. Uwzględnij nadzór człowieka jako spójny obszar wzorca do zbadania. Zapewnij stały nadzór człowieka nad produktem lub funkcją bazującą na sztucznej inteligencji. Zachowaj rolę ludzi w podejmowaniu decyzji. Upewnij się, że możesz mieć interwencję człowieka w czasie rzeczywistym w rozwiązaniu, aby zapobiec szkodom i zarządzać sytuacjami, gdy system sztucznej inteligencji nie działa zgodnie z oczekiwaniami.

  • Budowanie zaufania z udziałem osób biorących udział w projekcie. Przekazywanie oczekiwanych korzyści i potencjalnych zagrożeń osobom biorącym udział w projekcie. Pomóż ludziom zrozumieć, dlaczego potrzebne są dane i jak wykorzystanie danych doprowadzi do ich korzyści. Opis obsługi danych w zrozumiały sposób.

  • Tworzenie pętli opinii klientów. Podaj kanał opinii, który umożliwia użytkownikom i osobom zgłaszanie problemów z usługą po jej wdrożeniu. Po wdrożeniu produktu lub funkcji opartej na sztucznej inteligencji wymaga to ciągłego monitorowania i ulepszania. Przygotuj się do zaimplementowania wszelkich opinii i sugestii dotyczących ulepszeń. Ustanów kanały do zbierania pytań i obaw osób biorących udział w projekcie. Osoby, którzy mogą mieć bezpośredni lub pośrednio wpływ na system, obejmują pracowników, odwiedzających i ogół społeczeństwa.

  • Opinie: Wyszukiwanie opinii na podstawie zróżnicowanego próbkowania społeczności podczas procesu opracowywania i oceny (na przykład grup z marginesem historycznym, osób niepełnosprawnych i pracowników usług). Aby uzyskać więcej informacji, zobacz Społeczność jury.

  • Badanie użytkowników: wszelkie zalecenia dotyczące wyrażania zgody lub ujawnienia powinny być oprawione w badaniu użytkowników. Oceń pierwsze i ciągłe doświadczenie w użyciu z reprezentatywną próbką społeczności, aby sprawdzić, czy wybory projektowe prowadzą do skutecznego ujawnienia. Przeprowadź badania użytkowników z 10–20 członkami społeczności (zainteresowanych stron), aby ocenić ich zrozumienie informacji i określić, czy ich oczekiwania są spełnione.

  • Przejrzystość i wyjaśnienie: rozważ włączenie i użycie możliwości wnioskowania usługi Personalizacja, aby lepiej zrozumieć, które funkcje odgrywają znaczącą rolę w wyborze decyzji personalizatora w każdym wywołaniu rangi. Ta funkcja umożliwia zapewnienie użytkownikom przejrzystości w zakresie sposobu, w jaki ich dane odegrały rolę w tworzeniu zalecanych najlepszych działań. Możesz na przykład nadać użytkownikom przycisk z etykietą "Dlaczego te sugestie?", który pokazuje, które najważniejsze funkcje odegrały rolę w tworzeniu wyników personalizacji. Te informacje mogą również służyć do lepszego zrozumienia, jakie atrybuty danych dotyczące użytkowników, kontekstów i akcji działają na rzecz wyboru najlepszego działania usługi Personalizacja, które działają przeciwko nim, i które mogą mieć niewielki lub żaden efekt. Ta funkcja umożliwia również uzyskiwanie szczegółowych informacji o segmentach użytkowników oraz pomaga identyfikować potencjalne uprzedzenia i je rozwiązywać.

  • Niepożądane użycie: rozważ ustanowienie procesu wykrywania złośliwego manipulowania i działania na ich podstawie. Istnieją podmioty, które skorzystają z możliwości uczenia maszynowego i systemów sztucznej inteligencji, aby uczyć się ze swojego środowiska. Dzięki skoordynowanym atakom mogą sztucznie fałszywe wzorce zachowań, które przenoszą dane i modele sztucznej inteligencji do swoich celów. Jeśli korzystanie z usługi Personalizacja może mieć wpływ na ważne wybory, upewnij się, że masz odpowiednie środki do wykrywania i eliminowania tych typów ataków.

  • Rezygnacja: rozważ zapewnienie użytkownikom kontroli w celu rezygnacji z otrzymywania spersonalizowanych rekomendacji. Dla tych użytkowników interfejs API personalizacji rangi nie będzie wywoływany z aplikacji. Zamiast tego aplikacja może użyć alternatywnego mechanizmu podejmowania decyzji o działaniu. Na przykład rezygnacja z spersonalizowanych zaleceń i wybranie domyślnej lub bazowej akcji spowoduje, że użytkownik doświadczy akcji, która zostanie podjęta bez rekomendacji personalizacji. Alternatywnie aplikacja może używać rekomendacji na podstawie miar zagregowanych lub opartych na populacji (np. trendów, 10 najpopularniejszych itp.).

Twoja odpowiedzialność

Wszystkie wytyczne dotyczące odpowiedzialnej implementacji opierają się na założeniu, że deweloperzy i firmy korzystające z usługi Personalizacja są odpowiedzialne i odpowiedzialne za skutki używania tych algorytmów w społeczeństwie. Jeśli tworzysz aplikację, którą organizacja wdroży, musisz uznać swoją rolę i odpowiedzialność za jej działanie oraz wpływ na ludzi. Jeśli projektujesz aplikację, która ma zostać wdrożona przez inną firmę, zapoznaj się ze wspólnym zrozumieniem, kto jest ostatecznie odpowiedzialny za zachowanie aplikacji. Pamiętaj, aby udokumentować to zrozumienie.

Pytania i opinie

Firma Microsoft stale uaktualnia narzędzia i dokumenty, aby ułatwić ci wykonywanie tych obowiązków. Nasz zespół zaprasza Cię do przekazywania opinii firmie Microsoft , jeśli uważasz, że inne narzędzia, funkcje produktów i dokumenty pomogą Ci wdrożyć te wytyczne dotyczące korzystania z usługi Personalizacja.

  • Zobacz sześć zasad firmy Microsoft dotyczących odpowiedzialnego rozwoju sztucznej inteligencji opublikowanej w książce The Future Computed ze stycznia 2018 r.

Następne kroki

Dowiedz się, jak interfejs API personalizacji odbiera funkcje: Funkcje: akcja i kontekst