Skapa slutpunkter för distribuerade Machine Learning Studio-webbtjänster (klassiska)

  • Artikel

GÄLLER FÖR:Gäller för. Machine Learning Studio (klassisk) Gäller inte för.Azure Machine Learning

Viktigt

Stödet för Machine Learning Studio (klassisk) upphör den 31 augusti 2024. Vi rekommenderar att du byter till Azure Machine Learning innan dess.

Från och med den 1 december 2021 kan du inte längre skapa nya Machine Learning Studio-resurser (klassisk). Du kan fortsätta att använda befintliga Machine Learning Studio-resurser (klassisk) till och med den 31 augusti 2024.

Dokumentationen om ML Studio (klassisk) håller på att dras tillbaka och kanske inte uppdateras i framtiden.

När en webbtjänst har distribuerats skapas en standardslutpunkt för tjänsten. Standardslutpunkten kan anropas med dess API-nyckel. Du kan lägga till fler slutpunkter med egna nycklar från webbtjänstportalen. Varje slutpunkt i webbtjänsten åtgärdas, begränsas och hanteras oberoende av varandra. Varje slutpunkt är en unik URL med en auktoriseringsnyckel som du kan distribuera till dina kunder.

Lägga till slutpunkter i en webbtjänst

Du kan lägga till en slutpunkt i en webbtjänst med hjälp av Machine Learning Web Services-portalen. När slutpunkten har skapats kan du använda den via synkrona API:er, batch-API:er och Excel-kalkylblad.

Anteckning

Om du har lagt till ytterligare slutpunkter i webbtjänsten kan du inte ta bort standardslutpunkten.

  1. I Machine Learning Studio (klassisk) klickar du på Webbtjänster i den vänstra navigeringskolumnen.
  2. Längst ned på instrumentpanelen för webbtjänsten klickar du på Hantera slutpunkter. Machine Learning Web Services-portalen öppnas på sidan slutpunkter för webbtjänsten.
  3. Klicka på Ny.
  4. Ange ett namn och en beskrivning för den nya slutpunkten. Slutpunktsnamn måste vara högst 24 tecken långa och måste bestå av gemena alfabet eller siffror. Välj loggningsnivå och om exempeldata är aktiverade. Mer information om loggning finns i Aktivera loggning för Machine Learning-webbtjänster.

Skala en webbtjänst genom att lägga till ytterligare slutpunkter

Som standard är varje publicerad webbtjänst konfigurerad för att stödja 20 samtidiga begäranden och kan vara så hög som 200 samtidiga begäranden. Machine Learning Studio (klassisk) optimerar automatiskt inställningen för att ge bästa prestanda för webbtjänsten och portalvärdet ignoreras.

Om du planerar att anropa API:et med en högre belastning än det högsta värdet för samtidiga anrop på 200, bör du skapa flera slutpunkter på samma webbtjänst. Du kan sedan slumpmässigt distribuera belastningen över alla.

Skalning av en webbtjänst är en vanlig uppgift. Några skäl att skala är att stödja fler än 200 samtidiga begäranden, öka tillgängligheten via flera slutpunkter eller tillhandahålla separata slutpunkter för webbtjänsten. Du kan öka skalan genom att lägga till ytterligare slutpunkter för samma webbtjänst via Machine Learning-webbtjänstportalen .

Tänk på att användning av ett högt samtidighetsantal kan vara skadligt om du inte anropar API:et med motsvarande hög hastighet. Du kan se sporadiska timeouter och/eller toppar i svarstiden om du lägger en relativt låg belastning på ett API som har konfigurerats för hög belastning.

Synkrona API:er används vanligtvis i situationer där en kort svarstid önskas. Svarstiden här innebär den tid det tar för API:et att slutföra en begäran och tar inte hänsyn till några nätverksfördröjningar. Anta att du har ett API med en svarstid på 50 ms. Om du vill förbruka den tillgängliga kapaciteten fullt ut med hög begränsningsnivå och maximalt antal samtidiga anrop = 20 måste du anropa detta API 20 * 1 000 /50 = 400 gånger per sekund. Om du utökar detta ytterligare kan du med maximalt antal samtidiga anrop på 200 anropa API:et 4 000 gånger per sekund, förutsatt en svarstid på 50 ms.

Nästa steg

Så här använder du en Machine Learning-webbtjänst.