Een ML.NET-algoritme kiezen

Voor elke ML.NET taak zijn er meerdere trainingsalgoritmen waaruit u kunt kiezen. Welke u moet kiezen, is afhankelijk van het probleem dat u probeert op te lossen, de kenmerken van uw gegevens en de reken- en opslagresources die u beschikbaar hebt. Het is belangrijk te weten dat het trainen van een machine learning-model een iteratief proces is. Mogelijk moet u meerdere algoritmen proberen om de algoritmen te vinden die het beste werkt.

Algoritmen werken op functies. Functies zijn numerieke waarden die worden berekend op basis van uw invoergegevens. Ze zijn optimale invoer voor machine learning-algoritmen. U transformeert uw onbewerkte invoergegevens in functies met behulp van een of meer gegevenstransformaties. Tekstgegevens worden bijvoorbeeld omgezet in een set woordenaantallen en woordencombinaties. Zodra de functies zijn geëxtraheerd uit een onbewerkt gegevenstype met behulp van gegevenstransformaties, worden ze aangeduid als featurized. Bijvoorbeeld gemetriseerde tekst of gemetriseerde afbeeldingsgegevens.

Trainer = Algoritme + Taak

Een algoritme is de wiskunde die wordt uitgevoerd om een model te produceren. Verschillende algoritmen produceren modellen met verschillende kenmerken.

Met ML.NET kan hetzelfde algoritme worden toegepast op verschillende taken. Stochastic Dual Coördinaat Ascent kan bijvoorbeeld worden gebruikt voor binaire classificatie, classificatie van meerdere klassen en regressie. Het verschil is in hoe de uitvoer van het algoritme wordt geïnterpreteerd om overeen te komen met de taak.

Voor elke combinatie van algoritmen/taken biedt ML.NET een onderdeel waarmee het trainingsalgoritmen worden uitgevoerd en de interpretatie wordt uitgevoerd. Deze onderdelen worden trainers genoemd. Hierbij wordt bijvoorbeeld SdcaRegressionTrainer het stochasticDualCoördinaatAscent-algoritme gebruikt dat is toegepast op de regressietaak.

Lineaire algoritmen

Lineaire algoritmen produceren een model waarmee scores worden berekend op basis van een lineaire combinatie van de invoergegevens en een set gewichten. De gewichten zijn parameters van het model dat tijdens de training wordt geschat.

Lineaire algoritmen werken goed voor functies die lineair kunnen worden gescheiden.

Voordat u met een lineair algoritme traint, moeten de functies worden genormaliseerd. Hierdoor voorkomt u dat één functie meer invloed heeft op het resultaat dan andere.

In het algemeen zijn lineaire algoritmen schaalbaar, snel, goedkoop om te trainen en goedkoop om te voorspellen. Ze worden geschaald op basis van het aantal functies en ongeveer op basis van de grootte van de trainingsgegevensset.

Lineaire algoritmen maken meerdere doorvoeren over de trainingsgegevens. Als uw gegevensset in het geheugen past, voegt u een cachecontrolepunt toe aan uw ML.NET pijplijn voordat u de trainer toevoegt, zodat de training sneller kan worden uitgevoerd.

Gemiddeld perceptron

Het meest geschikt voor tekstclassificatie.

Trainer	Opdracht	ONNX exporteerbaar
AveragedPerceptronTrainer	Binaire classificatie	Ja

Stochastic dual coordinated ascent

Afstemming is niet nodig voor goede standaardprestaties.

Trainer	Opdracht	ONNX exporteerbaar
SdcaLogisticRegressionBinaryTrainer	Binaire classificatie	Ja
SdcaNonCalibratedBinaryTrainer	Binaire classificatie	Ja
SdcaMaximumEntropyMulticlassTrainer	Classificatie met meerdere klassen	Ja
SdcaNonCalibratedMulticlassTrainer	Classificatie met meerdere klassen	Ja
SdcaRegressionTrainer	Regressie	Ja

L-BFGS

Gebruik deze functie wanneer het aantal functies groot is. Produceert logistieke regressietrainingsstatistieken, maar schaalt niet evenals de AveragedPerceptronTrainer.

Trainer	Opdracht	ONNX exporteerbaar
LbfgsLogisticRegressionBinaryTrainer	Binaire classificatie	Ja
LbfgsMaximumEntropyMulticlassTrainer	Classificatie met meerdere klassen	Ja
LbfgsPoissonRegressionTrainer	Regressie	Ja

Symbolische stochastische gradiëntafname

Snelste en meest nauwkeurige lineaire binaire classificatie trainer. Schaalt goed met het aantal processors.

Trainer	Opdracht	ONNX exporteerbaar
SymbolicSgdLogisticRegressionBinaryTrainer	Binaire classificatie	Ja

Online gradiëntafname

Implementeert de standaard (niet-batch) stochastische gradiëntafname, met een keuze aan verliesfuncties en een optie om de gewichtsvector bij te werken met behulp van het gemiddelde van de vectoren die in de loop van de tijd worden gezien.

Trainer	Opdracht	ONNX exporteerbaar
OnlineGradientDescentTrainer	Regressie	Ja

Beslissingsstructuuralgoritmen

Beslissingsstructuuralgoritmen maken een model dat een reeks beslissingen bevat: effectief een stroomdiagram door de gegevenswaarden.

Functies hoeven niet lineair gescheiden te zijn om dit type algoritme te kunnen gebruiken. En functies hoeven niet te worden genormaliseerd, omdat de afzonderlijke waarden in de functievector onafhankelijk worden gebruikt in het beslissingsproces.

Beslissingsstructuuralgoritmen zijn over het algemeen zeer nauwkeurig.

Met uitzondering van gegeneraliseerde additieve modellen (GAM's) kunnen structuurmodellen geen uitleg hebben wanneer het aantal functies groot is.

Beslissingsstructuuralgoritmen nemen meer resources in beslag en worden niet zo goed geschaald als lineaire algoritmen. Ze presteren goed voor gegevenssets die in het geheugen passen.

Versterkte beslissingsstructuren zijn een ensemble van kleine bomen waarbij elke boom de invoergegevens beoordeelt en de score doorgeeft aan de volgende boom om een betere score te produceren, enzovoort, waar elke boom in het ensemble de vorige verbetert.

Lichte kleurovergang boosted machine

Snelste en meest nauwkeurige van de binaire classificatiestructuurtrainers. Zeer niet in staat.

Trainer	Opdracht	ONNX exporteerbaar
LightGbmBinaryTrainer	Binaire classificatie	Ja
LightGbmMulticlassTrainer	Classificatie met meerdere klassen	Ja
LightGbmRegressionTrainer	Regressie	Ja
LightGbmRankingTrainer	Rangorde	Nee

Snelle boomstructuur

Gebruiken voor gemetriseerde afbeeldingsgegevens. Tolerant voor niet-gebalanceerde gegevens. Zeer niet in staat.

Trainer	Opdracht	ONNX exporteerbaar
FastTreeBinaryTrainer	Binaire classificatie	Ja
FastTreeRegressionTrainer	Regressie	Ja
FastTreeTweedieTrainer	Regressie	Ja
FastTreeRankingTrainer	Rangorde	Nee

Snel forest

Werkt goed met ruisgegevens.

Trainer	Opdracht	ONNX exporteerbaar
FastForestBinaryTrainer	Binaire classificatie	Ja
FastForestRegressionTrainer	Regressie	Ja

Gegeneraliseerde additief model (GAM)

Het meest geschikt voor problemen die goed presteren met structuuralgoritmen, maar waarbij uitleg een prioriteit is.

Trainer	Opdracht	ONNX exporteerbaar
GamBinaryTrainer	Binaire classificatie	Nee
GamRegressionTrainer	Regressie	Nee

Matrixfactorisatie

Matrixfactorisatie

Wordt gebruikt voor gezamenlijke filtering in aanbeveling.

Trainer	Opdracht	ONNX exporteerbaar
MatrixFactorizationTrainer	Aanbeveling	Nee

Veldbewuste factorisatiemachine

Het meest geschikt voor het parseren van categorische gegevens, met grote gegevenssets.

Trainer	Opdracht	ONNX exporteerbaar
FieldAwareFactorizationMachineTrainer	Binaire classificatie	Nee

Metaalgoritmen

Deze trainers maken een multiclass trainer van een binaire trainer. Gebruiken met AveragedPerceptronTrainer, LbfgsLogisticRegressionBinaryTrainer, SymbolicSgdLogisticRegressionBinaryTrainer, , LightGbmBinaryTrainer, FastTreeBinaryTrainer, , , FastForestBinaryTrainer. GamBinaryTrainer

Eén versus alle

Deze classificatie met meerdere klassen traint één binaire classificatie voor elke klasse, die die klasse onderscheidt van alle andere klassen. Is beperkt in schaal door het aantal klassen dat moet worden gecategoraliseerd.

Trainer	Opdracht	ONNX exporteerbaar
OneVersusAllTrainer	Classificatie met meerdere klassen	Ja

Paargewijze koppeling

Deze classificatie met meerdere klassen traint een algoritme voor binaire classificatie op elk paar klassen. Is beperkt in schaal met het aantal klassen, omdat elke combinatie van twee klassen moet worden getraind.

Trainer	Opdracht	ONNX exporteerbaar
PairwiseCouplingTrainer	Classificatie met meerdere klassen	Nee

K-Means

Wordt gebruikt voor clustering.

Trainer	Opdracht	ONNX exporteerbaar
KMeansTrainer	Clustering	Ja

Analyse van principal-onderdelen

Wordt gebruikt voor anomaliedetectie.

Trainer	Opdracht	ONNX exporteerbaar
RandomizedPcaTrainer	Anomaliedetectie	Nee

Naive Bayes

Gebruik dit classificatie-algoritme met meerdere klassen wanneer de functies onafhankelijk zijn en de trainingsgegevensset klein is.

Trainer	Opdracht	ONNX exporteerbaar
NaiveBayesMulticlassTrainer	Classificatie met meerdere klassen	Ja

Vorige trainer

Gebruik dit algoritme voor binaire classificatie om de prestaties van andere trainers te basislijnen. Om effectief te zijn, moeten de metrische gegevens van de andere trainers beter zijn dan de vorige trainer.

Trainer	Opdracht	ONNX exporteerbaar
PriorTrainer	Binaire classificatie	Ja

Ondersteuningsvectormachines

Ondersteuningsvectormachines (SVM's) zijn een zeer populaire en goed onderzochte klasse van leermodellen onder supervisie, die kan worden gebruikt in lineaire en niet-lineaire classificatietaken.

Recent onderzoek heeft zich gericht op manieren om deze modellen te optimaliseren om efficiënt te schalen naar grotere trainingssets.

Lineaire SVM

Voorspelt een doel met behulp van een lineair binair classificatiemodel dat is getraind over booleaanse gelabelde gegevens. Schakelen tussen stochastische gradiëntafnamestappen en projectiestappen.

Trainer	Opdracht	ONNX exporteerbaar
LinearSvmTrainer	Binaire classificatie	Ja

Lokale deep SVM

Voorspelt een doel met behulp van een niet-lineair binair classificatiemodel. Vermindert de kosten van de voorspellingstijd; de voorspellingskosten groeien logaritmisch met de grootte van de trainingsset, in plaats van lineair, met een acceptabel verlies in classificatienauwkeurigheid.

Trainer	Opdracht	ONNX exporteerbaar
LdSvmTrainer	Binaire classificatie	Ja

Gewone kleinste vierkantjes

Gewone kleinste kwadraten (OLS) is een van de meest gebruikte technieken in lineaire regressie.

Gewone kleinste kwadraten verwijzen naar de verliesfunctie, die een fout berekent als de som van het kwadraat van de werkelijke waarde naar de voorspelde lijn en past bij het model door de kwadratische fout te minimaliseren. Bij deze methode wordt uitgegaan van een sterke lineaire relatie tussen de invoer en de afhankelijke variabele.

Trainer	Opdracht	ONNX exporteerbaar
OlsTrainer	Regressie	Ja