Schaal baarheid en prestatiesScalability and Performance

Websites en toepassingen met hoge prestaties en hoog verkeer hebben twee belang rijke factoren om te kunnen overwegen met persoonlijke instellingen voor schaal baarheid en prestaties:High-performance and high-traffic websites and applications have two main factors to consider with Personalizer for scalability and performance:

  • Lage latentie behouden bij het maken van Rank API-aanroepenKeeping low latency when making Rank API calls
  • Zorgen dat de door Voer van de training wordt bijgewerkt met gebeurtenis invoerMaking sure training throughput keeps up with event input

Persoonlijke instellingen kunnen snel een absolute waarde Retour neren, met de meeste gespreks duur die is toegewezen aan communicatie via de REST API.Personalization can return a rank rapidly, with most of the call duration dedicated to communication through the REST API. Azure schaalt automatisch de mogelijkheid om snel te reageren op aanvragen.Azure will autoscale the ability to respond to requests rapidly.

Scenario's met lage latentieLow-latency scenarios

Voor sommige toepassingen is een lage latentie vereist bij het retour neren van een positie.Some applications require low latencies when returning a rank. Er zijn lage latenties nodig:Low latencies are necessary:

  • Om te voor komen dat de gebruiker een opvallende hoeveelheid tijd moet wachten voordat geclassificeerde inhoud wordt weer gegeven.To keep the user from waiting a noticeable amount of time before displaying ranked content.
  • Om een server te helpen die extreem veel verkeer ondervindt, vermijdt u het koppelen van schaarse reken tijd en netwerk verbindingen.To help a server that is experiencing extreme traffic avoid tying up scarce compute time and network connections.

Door Voer voor schaal baarheid en trainingScalability and training throughput

Personaler werkt door het bijwerken van een model dat opnieuw wordt getraind op basis van berichten die asynchroon worden verzonden door Personaler na de classificatie en belonings-Api's.Personalizer works by updating a model that is retrained based on messages sent asynchronously by Personalizer after Rank and Reward APIs. Deze berichten worden verzonden met behulp van een Azure-EventHub voor de toepassing.These messages are sent using an Azure EventHub for the application.

Het is niet waarschijnlijk dat de meeste toepassingen het maximale lidmaatschap en de door Voer van de persoonlijke voor keuren bereiken.It is unlikely most applications will reach the maximum joining and training throughput of Personalizer. Het bereiken van dit maximum zal de toepassing niet vertragen, maar het impliceert dat Event hub-wacht rijen sneller worden gevuld dan ze kunnen worden opgeruimd.While reaching this maximum will not slow down the application, it would imply Event Hub queues are getting filled internally faster than they can be cleaned up.

Uw doorvoer vereisten ramenHow to estimate your throughput requirements

  • Schatting van het gemiddelde aantal bytes per rangorde gebeurtenis waarmee de lengte van de context en de JSON-documenten van de actie worden toegevoegd.Estimate the average number of bytes per ranking event adding the lengths of the context and action JSON documents.
  • Deling 20 MB per seconde door dit geschatte gemiddelde aantal bytes.Divide 20MB/sec by this estimated average bytes.

Als uw gemiddelde Payload bijvoorbeeld 500 functies heeft en elk een geschatte 20 tekens is, dan is elke gebeurtenis ongeveer 10 KB.For example, if your average payload has 500 features and each is an estimated 20 characters, then each event is approximately 10kb. Met deze schattingen 20.000.000/10.000 = 2.000 gebeurtenissen per seconde, die ongeveer 173.000.000 gebeurtenissen per dag zijn.With these estimates, 20,000,000 / 10,000 = 2,000 events/sec, which is about 173 million events/day.

Als u deze limieten bereikt, neemt u contact op met ons ondersteunings team voor architectuur advies.If you are reaching these limits, please contact our support team for architecture advice.

Volgende stappenNext steps

Persoonlijker maken en configureren.Create and configure Personalizer.