Delen via


hyperdrive Pakket

Bevat modules en klassen die hyperparameterafstemming ondersteunen.

Hyperparameters zijn aanpasbare parameters die u kiest voor modeltraining die het trainingsproces begeleiden. Het HyperDrive-pakket helpt u bij het automatiseren van het kiezen van deze parameters. U kunt de zoekruimte van de parameter bijvoorbeeld definiëren als discreet of doorlopend, en een steekproefmethode voor de zoekruimte als willekeurig, raster of Bayesisch. U kunt ook een primaire metrische waarde opgeven om te optimaliseren in het hyperparameterafstemmingsexperiment en of u die metrische waarde wilt minimaliseren of maximaliseren. U kunt ook beleidsregels voor vroegtijdige beëindiging definiëren waarbij slecht presterende experimentuitvoeringen worden geannuleerd en nieuwe worden gestart. Als u een herbruikbare machine learning-werkstroom voor HyperDrive wilt definiëren, gebruikt hyper_drive_step u om een Pipelinete maken.

Modules

error_definition

Foutcodedefinities voor HyperDrive SDK.

error_strings

Een verzameling foutreeksen die in de HyperDrive SDK worden gebruikt.

exceptions

Uitzonderingen die zijn gegenereerd door HyperDrive.

parameter_expressions

Definieert functies die kunnen worden gebruikt in HyperDrive om een hyperparameter zoekruimte te beschrijven.

Deze functies worden gebruikt om verschillende typen hyperparameterdistributies op te geven. De distributies worden gedefinieerd wanneer u sampling configureert voor een hyperparameter-sweep. Wanneer u bijvoorbeeld de RandomParameterSampling klasse gebruikt, kunt u een steekproef nemen uit een set discrete waarden of een verdeling van doorlopende waarden. In dit geval kunt u de choice functie gebruiken om een discrete set waarden te genereren en uniform een functie om een verdeling van doorlopende waarden te genereren.

Zie de zelfstudie voor voorbeelden van het gebruik van deze functies: https://docs.microsoft.com/azure/machine-learning/how-to-tune-hyperparameters.

Klassen

BanditPolicy

Definieert een beleid voor vroegtijdige beëindiging op basis van margecriteria en een frequentie- en vertragingsinterval voor evaluatie.

Initialiseer een BanditPolicy met slack-factor, slack_amount en evaluatie-interval.

BayesianParameterSampling

Definieert Bayesiaanse steekproeven over een hyperparameterzoekruimte.

Bayesiaanse steekproeven proberen op intelligente wijze de volgende steekproef van hyperparameters te kiezen, op basis van hoe de vorige steekproeven hebben uitgevoerd, zodat de nieuwe steekproef de gerapporteerde primaire metrische gegevens verbetert.

Initialiseer BayesianParameterSampling.

EarlyTerminationPolicy

Abstracte basisklasse voor alle beleidsregels voor vroegtijdige beëindiging.

Initialiseer een beleid voor vroegtijdige beëindiging.

GridParameterSampling

Hiermee definieert u rastersampling over een hyperparameterzoekruimte.

GridParameterSampling initialiseren.

HyperDriveConfig

Configuratie waarmee een HyperDrive-uitvoering wordt gedefinieerd.

HyperDrive-configuratie bevat informatie over het nemen van hyperparameters, beëindigingsbeleid, primaire metrische gegevens, hervatten van de configuratie, estimator en het rekendoel waarop de experimentuitvoeringen moeten worden uitgevoerd.

Initialiseer de HyperDriveConfig.

HyperDriveRun

HyperDriveRun bevat de details van een verzonden HyperDrive-experiment.

Deze klasse kan worden gebruikt voor het beheren, controleren van de status en het ophalen van uitvoeringsdetails voor de HyperDrive-uitvoering en elk van de gegenereerde onderliggende uitvoeringen.

Initialiseer een HyperDrive-uitvoering.

HyperDriveRunConfig

Configuratie waarmee een HyperDrive-uitvoering wordt gedefinieerd.

De configuratie bevat informatie over sampling van parameterruimte, beëindigingsbeleid, primaire metrische gegevens, estimator en het rekendoel waarop het experiment moet worden uitgevoerd.

Initialiseer de HyperDriveConfig.

HyperParameterSampling

Abstracte basisklasse voor alle algoritmen voor het nemen van hyperparameters.

Deze klasse omvat de hyperparameterruimte, de steekproefmethode en aanvullende eigenschappen voor afgeleide samplingklassen: BayesianParameterSampling, GridParameterSamplingen RandomParameterSampling.

HyperParameterSampling initialiseren.

MedianStoppingPolicy

Definieert een beleid voor vroegtijdige beëindiging op basis van lopende gemiddelden van de primaire metrische gegevens van alle uitvoeringen.

Initialiseer een MedianStoppingPolicy.

NoTerminationPolicy

Hiermee geeft u op dat er geen beleid voor vroegtijdige beëindiging wordt toegepast.

Elke uitvoering wordt uitgevoerd totdat deze is voltooid.

Initialiseer NoTerminationPolicy.

RandomParameterSampling

Hiermee definieert u willekeurige steekproeven voor een hyperparameter-zoekruimte.

Initialiseer RandomParameterSampling.

TruncationSelectionPolicy

Definieert een beleid voor vroegtijdige beëindiging dat een bepaald percentage uitvoeringen annuleert bij elk evaluatie-interval.

Initialiseer een TruncationSelectionPolicy.

Enums

PrimaryMetricGoal

Definieert ondersteunde metrische doelen voor het afstemmen van hyperparameters.

Een doel voor metrische gegevens wordt gebruikt om te bepalen of een hogere waarde voor een metrische waarde beter of slechter is. Metrische doelen worden gebruikt bij het vergelijken van uitvoeringen op basis van de primaire metrische gegevens. U kunt bijvoorbeeld de nauwkeurigheid maximaliseren of fouten minimaliseren.

De primaire metrische naam en het doel worden opgegeven in de HyperDriveConfig klasse wanneer u een HyperDrive-uitvoering configureert.

Functies

choice

Geef een discrete set opties op waaruit u een steekproef wilt nemen.

choice(*options)

Parameters

Name Description
options
Vereist

De lijst met opties waaruit u kunt kiezen.

Retouren

Type Description

De stochastische expressie.

lognormal

Geef een waarde op die is getekend volgens exp(normal(mu, sigma)).

De logaritme van de retourwaarde wordt normaal verdeeld. Bij het optimaliseren wordt deze variabele beperkt tot positief.

lognormal(mu, sigma)

Parameters

Name Description
mu
Vereist

Het gemiddelde van de normale verdeling.

sigma
Vereist

De standaarddeviatie van de normale verdeling.

Retouren

Type Description

De stochastische expressie.

loguniform

Geef een uniforme logboekdistributie op.

Een waarde wordt getekend volgens exp(uniform(min_value, max_value)) zodat de logaritme van de retourwaarde uniform wordt verdeeld. Bij het optimaliseren wordt deze variabele beperkt tot het interval [exp(min_value), exp(max_value)]

loguniform(min_value, max_value)

Parameters

Name Description
min_value
Vereist

De minimumwaarde in het bereik is exp(min_value)(inclusief).

max_value
Vereist

De maximumwaarde in het bereik is exp(max_value) (inclusief).

Retouren

Type Description

De stochastische expressie.

normal

Geef een echte waarde op die normaal wordt verdeeld met gemiddelde mu en standaarddeviatie sigma.

Bij het optimaliseren is dit een ongeconstrainde variabele.

normal(mu, sigma)

Parameters

Name Description
mu
Vereist

Het gemiddelde van de normale verdeling.

sigma
Vereist

de standaarddeviatie van de normale verdeling.

Retouren

Type Description

De stochastische expressie.

qlognormal

Geef een waarde op zoals round(exp(normal(mu, sigma)) / q) * q.

Geschikt voor een discrete variabele waarbij het doel vloeiend is en vloeiender wordt met de grootte van de variabele, die aan één kant wordt begrensd.

qlognormal(mu, sigma, q)

Parameters

Name Description
mu
Vereist

Het gemiddelde van de normale verdeling.

sigma
Vereist

De standaarddeviatie van de normale verdeling.

q
Vereist
int

De vereffenende factor.

Retouren

Type Description

De stochastische expressie.

qloguniform

Geef een uniforme verdeling van de formulierronde op(exp(uniform(min_value, max_value) / q) * q.

Dit is geschikt voor een discrete variabele waarbij het doel "vloeiend" is en vloeiender wordt met de grootte van de waarde, maar die zowel boven als onder moet worden begrensd.

qloguniform(min_value, max_value, q)

Parameters

Name Description
min_value
Vereist

De minimumwaarde in het bereik (inclusief).

max_value
Vereist

De maximumwaarde in het bereik (inclusief).

q
Vereist
int

De vereffenende factor.

Retouren

Type Description

De stochastische expressie.

qnormal

Geef een waarde op zoals round(normal(mu, sigma) / q) * q.

Geschikt voor een discrete variabele die waarschijnlijk een waarde rond mu neemt, maar fundamenteel niet gebonden is.

qnormal(mu, sigma, q)

Parameters

Name Description
mu
Vereist

Het gemiddelde van de normale verdeling.

sigma
Vereist

De standaarddeviatie van de normale verdeling.

q
Vereist
int

De vereffenende factor.

Retouren

Type Description

De stochastische expressie.

quniform

Geef een uniforme verdeling van de vorm round(uniform(min_value, max_value) / q) * q op.

Dit is geschikt voor een discrete waarde waarvoor de doelstelling nog enigszins "vloeiend" is, maar die zowel boven als onder moet worden begrensd.

quniform(min_value, max_value, q)

Parameters

Name Description
min_value
Vereist

De minimumwaarde in het bereik (inclusief).

max_value
Vereist

De maximumwaarde in het bereik (inclusief).

q
Vereist
int

De vereffenende factor.

Retouren

Type Description

De stochastische expressie.

randint

Geef een set willekeurige gehele getallen op in het bereik [0, bovenste).

De semantiek van deze verdeling is dat er geen correlatie meer is in de verliesfunctie tussen waarden in de buurt van gehele getallen in de buurt, vergeleken met meer verre gehele waarden. Dit is een geschikte verdeling voor het beschrijven van willekeurige zaden bijvoorbeeld. Als de verliesfunctie waarschijnlijk meer gecorreleerd is voor nabijgelegen gehele getallen, moet u waarschijnlijk een van de 'gekwantiseerde' continue verdelingen gebruiken, zoals quniform, qloguniform, qnormaal of qlognormaal.

randint(upper)

Parameters

Name Description
upper
Vereist
int

De exclusieve bovengrens voor het bereik van gehele getallen.

Retouren

Type Description

De stochastische expressie.

uniform

Geef een uniforme verdeling op waaruit monsters worden genomen.

uniform(min_value, max_value)

Parameters

Name Description
min_value
Vereist

De minimumwaarde in het bereik (inclusief).

max_value
Vereist

De maximumwaarde in het bereik (inclusief).

Retouren

Type Description

De stochastische expressie.