Odvozovatelnost
Důležité
Od 20. září 2023 nebudete moct vytvářet nové prostředky personalizace. Služba Personalizace se vyřadí z provozu 1. října 2026.
Personalizace vám může pomoct pochopit, které funkce vybrané akce jsou nejvíce a nejméně vlivné na model při odvozování. Pokud je tato možnost povolená, vysvětlení zahrnuje skóre funkcí z podkladového modelu do odpovědi rozhraní Rank API, takže vaše aplikace obdrží tyto informace v době odvozování.
Skóre funkcí vám umožní lépe porozumět vztahu mezi funkcemi a rozhodnutími provedenými personalizátorem. Můžete je použít k tomu, abyste koncovým uživatelům poskytli přehled o tom, proč bylo provedeno konkrétní doporučení, nebo k analýze, jestli váš model vykazuje předsudky k určitým kontextovým nastavením, uživatelům a akcím nebo proti nim.
Návody povolit vysvětlení odvozovatelnosti?
Nastavení příznaku konfigurace služby IsInferenceExplainabilityEnabled v konfiguraci služby umožňuje personalizaci zahrnout hodnoty funkcí a váhy do odpovědi rozhraní Rank API. Pokud chcete aktualizovat aktuální konfiguraci služby, použijte rozhraní API pro konfiguraci služby – aktualizace. Do textu požadavku JSON zahrňte aktuální konfiguraci služby a přidejte další položku: IsInferenceExplainabilityEnabled: true. Pokud aktuální konfiguraci služby neznáte, můžete ji získat z konfigurace služby – získat rozhraní API.
{
"rewardWaitTime": "PT10M",
"defaultReward": 0,
"rewardAggregation": "earliest",
"explorationPercentage": 0.2,
"modelExportFrequency": "PT5M",
"logMirrorEnabled": true,
"logMirrorSasUri": "https://testblob.blob.core.windows.net/container?se=2020-08-13T00%3A00Z&sp=rwl&spr=https&sv=2018-11-09&sr=c&sig=signature",
"logRetentionDays": 7,
"lastConfigurationEditDate": "0001-01-01T00:00:00Z",
"learningMode": "Online",
"isAutoOptimizationEnabled": true,
"autoOptimizationFrequency": "P7D",
"autoOptimizationStartDate": "2019-01-19T00:00:00Z",
"isInferenceExplainabilityEnabled": true
}
Poznámka:
Povolení vysvětlení odvozování výrazně zvýší latenci volání rozhraní Rank API. Doporučujeme experimentovat s touto funkcí a měřit latenci ve vašem scénáři, abyste zjistili, jestli splňuje požadavky vaší aplikace na latenci.
Jak interpretovat skóre funkcí?
Povolením vysvětlitelnosti odvozování přidáte kolekci do odpovědi JSON z rozhraní Rank API s názvem inferenceExplanation. Obsahuje seznam názvů a hodnot funkcí odeslaných v žádosti o pořadí spolu se skóre funkcí, které získal základní model personalizace. Skóre funkcí vám poskytují přehled o tom, jak vlivná každá funkce byla v modelu při výběru akce.
{
"ranking": [
{
"id": "EntertainmentArticle",
"probability": 0.8
},
{
"id": "SportsArticle",
"probability": 0.15
},
{
"id": "NewsArticle",
"probability": 0.05
}
],
"eventId": "75269AD0-BFEE-4598-8196-C57383D38E10",
"rewardActionId": "EntertainmentArticle",
"inferenceExplanation": [
{
"id”: "EntertainmentArticle",
"features": [
{
"name": "user.profileType",
"score": 3.0
},
{
"name": "user.latLong",
"score": -4.3
},
{
"name": "user.profileType^user.latLong",
"score" : 12.1
},
]
]
}
V předchozím příkladu se v kolekci hodnocení vrátí tři ID akcí spolu s příslušnými skóre pravděpodobností. Akce s největší pravděpodobností je the_ nejlepší action_ podle modelu natrénovaného na data odesílaná do rozhraní API personalizace, což je "id": "EntertainmentArticle"v tomto případě . ID akce lze znovu zobrazit v kolekci odvozeníExplanation spolu s názvy a skóre funkcí určenými modelem pro danou akci a funkcemi a hodnotami odeslanými do rozhraní API pořadí.
Vzpomeňte si, že personalizace buď vrátí nejlepší akci, nebo průzkumnou akci zvolenou zásadou zkoumání. Nejlepší akcí je ta, kterou model určil, má nejvyšší pravděpodobnost maximalizace průměrné odměny, zatímco průzkumné akce jsou vybrány mezi sadou všech možných akcí poskytovaných voláním rozhraní API pro hodnocení. Akce prováděné během průzkumu nevyužívá skóre funkcí při určování, která akce se má provést, a proto by se skóre funkcí pro průzkumné akce neměly používat k pochopení toho, proč byla akce provedena.Další informace o průzkumu najdete tady.
Pro nejlepší akce vrácené personalizátorem můžou skóre funkcí poskytnout obecný přehled, kde:
- Větší kladné skóre poskytují větší podporu pro model, který tuto akci zvolí.
- Větší záporná skóre poskytují větší podporu pro model, který tuto akci nevybíral.
- Skóre blížící se nule mají malý vliv na rozhodnutí zvolit tuto akci.
Důležité aspekty pro odvozování vysvětlovatelnosti
Zvýšená latence. Povolení vysvětlitelnosti odvozování výrazně zvýší latenci volání rozhraní Rank API kvůli zpracování informací o funkcích. Spusťte experimenty a změřte latenci ve vašem scénáři, abyste zjistili, jestli splňuje požadavky vaší aplikace na latenci.
Korelované funkce. Funkce, které spolu vysoce korelují, můžou snížit nástroj skóre funkcí. Předpokládejme například, že funkce A je vysoce korelovaná s funkcí B. Může to být, že skóre funkce A je velká kladná hodnota, zatímco skóre funkce B je velká záporná hodnota. V tomto případě se tyto dvě funkce můžou navzájem účinně zrušit a nemají na model žádný vliv. I když je personalizace velmi robustní pro vysoce korelované funkce, při použití odvozovatelnosti se ujistěte, že funkce odeslané do personalizace nejsou vysoce korelované.
Pouze výchozí průzkum. V současné době vysvětlení odvozování podporuje pouze výchozí algoritmus zkoumání.