Schaalbaarheid en prestaties
Websites en toepassingen met hoge prestaties en veel verkeer hebben twee belangrijke factoren om met Personalizer rekening mee te houden voor schaalbaarheid en prestaties:
- Lage latentie behouden bij het maken van Rank API-aanroepen
- Ervoor zorgen dat de trainingsdoorvoer de gebeurtenisinvoer bijhoudt
Personalisatie kan snel een positie retourneren, met de meeste aanroepduur die is toegewezen aan communicatie via de REST API. Azure schaalt de mogelijkheid om snel op aanvragen te reageren automatisch.
Scenario's met lage latentie
Sommige toepassingen vereisen lage latentie bij het retourneren van een positie. Lage latentie is noodzakelijk:
- Om te zorgen dat de gebruiker niet te lang moet wachten voordat geclassificeerde inhoud wordt weergegeven.
- Om een server te helpen die te maken heeft met extreem verkeer, voorkomt u dat er weinig rekentijd en netwerkverbindingen worden verbonden.
Schaalbaarheid en trainingsdoorvoer
Personalizer werkt door een model bij te werken dat opnieuw wordt getraind op basis van berichten die asynchroon worden verzonden door Personalizer na Rank- en Reward-API's. Deze berichten worden verzonden met behulp van een Azure EventHub voor de toepassing.
Het is onwaarschijnlijk dat de meeste toepassingen de maximale doorvoer voor samenvoegen en trainen van Personalizer bereiken. Hoewel het bereiken van dit maximum de toepassing niet vertraagt, betekent dit dat Event Hub-wachtrijen intern sneller worden gevuld dan ze kunnen worden opgeschoond.
De vereisten voor doorvoer schatten
- Schat het gemiddelde aantal bytes per rangschikkingsgebeurtenis, met de lengte van de JSON-documenten voor context en actie.
- Deel 20 MB per seconde door dit geschatte gemiddelde aantal bytes.
Als uw gemiddelde nettolading bijvoorbeeld 500 functies heeft en elke nettolading naar schatting 20 tekens bevat, is elke gebeurtenis ongeveer 10 kB. Met deze schattingen is 20.000.000 /10.000 = 2000 gebeurtenissen per seconde, wat ongeveer 173 miljoen gebeurtenissen per dag is.
Als u deze limieten bereikt, neem dan contact op met ons ondersteuningsteam voor advies over de architectuur.