Como escolher um algoritmo do ML.NET

Para cada tarefa do ML.NET, há vários algoritmos de treinamento para escolher. Qual escolher depende do problema que você está tentando resolver, das características de seus dados e dos recursos de computação e armazenamento disponíveis. É importante observar que o treinamento de um modelo de machine learning é um processo iterativo. Você talvez precise experimentar vários algoritmos para encontrar aquele que funciona melhor.

Algoritmos operam em recursos. Recursos são valores numéricos calculados usando seus dados de entrada. Eles são entradas ideais para algoritmos de machine learning. Você transforma seus dados brutos de entrada em recursos usando uma ou mais transformações de dados. Por exemplo, dados de texto são transformados em um conjunto de contagens de palavras e contagens de combinação de palavras. Depois que os recursos tiverem sido extraídos de um tipo de dados brutos usando transformações de dados, eles serão denominados personalizados. Por exemplo, texto personalizado ou dados de imagem personalizados.

Treinador = Algoritmo + Tarefa

Um algoritmo é o cálculo executado para produzir um modelo. Diferentes algoritmos produzem modelos com características diferentes.

Com o do ML.NET, o mesmo algoritmo pode ser aplicado para tarefas diferentes. Por exemplo, o ascendente estocástico de coordenada dupla pode ser usado para classificação binária, classificação multiclasse e regressão. A diferença está em como a saída do algoritmo é interpretada de acordo com a tarefa.

Para cada combinação de algoritmo/tarefa, o ML.NET fornece um componente que executa o algoritmo de treinamento e faz a interpretação. Esses componentes são chamados de treinadores. Por exemplo, o SdcaRegressionTrainer usa o algoritmo StochasticDualCoordinatedAscent aplicado à tarefa Regressão.

Algoritmos lineares

Algoritmos lineares produzem um modelo que calcula pontuações de uma combinação linear de dados de entrada e um conjunto de pesos. Os pesos são os parâmetros do modelo estimado durante o treinamento.

Algoritmos lineares funcionam bem para recursos que são separáveis linearmente.

Antes do treinamento com um algoritmo linear, os recursos devem ser normalizados. Isso evita que um recurso tenha mais influência sobre o resultado do que outros.

Em geral, os algoritmos lineares são escaláveis, rápidos e baratos para treinar e prever. Eles são dimensionados pelo número de recursos e aproximadamente pelo tamanho do conjunto de dados de treinamento.

Algoritmos lineares fazem várias passagens sobre os dados de treinamento. Se o conjunto de dados couber na memória, adicionar um ponto de verificação de cache ao pipeline do ML.NET antes de anexar o treinador fará com que o treinamento seja executado mais rapidamente.

Perceptron médio

Melhor para classificação de texto.

Treinador	Tarefa	Exportável do ONNX
AveragedPerceptronTrainer	Classificação binária	Sim

Ascendente de coordenada dupla estocástico

O ajuste não é necessário para um bom desempenho padrão.

Treinador	Tarefa	Exportável do ONNX
SdcaLogisticRegressionBinaryTrainer	Classificação binária	Sim
SdcaNonCalibratedBinaryTrainer	Classificação binária	Sim
SdcaMaximumEntropyMulticlassTrainer	Classificação multiclasse	Sim
SdcaNonCalibratedMulticlassTrainer	Classificação multiclasse	Sim
SdcaRegressionTrainer	Regressão	Sim

L-BFGS

Use quando o número de recursos for grande. Produz estatísticas de treinamento de regressão logística, mas não escala tão bem quanto o AveragedPerceptronTrainer.

Treinador	Tarefa	Exportável do ONNX
LbfgsLogisticRegressionBinaryTrainer	Classificação binária	Sim
LbfgsMaximumEntropyMulticlassTrainer	Classificação multiclasse	Sim
LbfgsPoissonRegressionTrainer	Regressão	Sim

Descendente de gradiente estocástico simbólico

Treinador de classificação binária linear o mais rápido e preciso. Escala bem com o número de processadores.

Treinador	Tarefa	Exportável do ONNX
SymbolicSgdLogisticRegressionBinaryTrainer	Classificação binária	Sim

Gradiente descendente online

Implementa o gradiente descendente estocástico padrão (não em lote), com opções de funções de perda e uma opção para atualizar o vetor de peso usando a média dos vetores vistos ao longo do tempo.

Treinador	Tarefa	Exportável do ONNX
OnlineGradientDescentTrainer	Regressão	Sim

Algoritmos de árvore de decisão

Algoritmos de árvore de decisão criam um modelo que contém uma série de decisões: efetivamente um fluxograma pelos valores de dados.

Recursos não precisam ser separáveis linearmente para usar esse tipo de algoritmo. E os recursos não precisam ser normalizados, pois os valores individuais no vetor de recurso são usados de modo independente no processo de decisão.

Algoritmos de árvore de decisão geralmente são muito precisos.

Exceto por GAMs (Modelos Aditivos Generalizados), modelos de árvore podem carecer da capacidade de explicação quando o número de recursos é grande.

Algoritmos de árvore de decisão consomem mais recursos e não são dimensionados tão bem quanto os lineares. Eles têm um bom desempenho em conjuntos de dados que cabem na memória.

Árvores de decisão aprimoradas são um conjunto de árvores de pequenas em que cada árvore pontua os dados de entrada e passa a pontuação para a árvore seguinte para produzir uma pontuação melhor, e assim por diante, em que cada árvore no conjunto melhora a anterior.

Computador aprimorado com gradiente de luz

Mais rápido e mais preciso entre os treinadores da árvore de classificação binária. Altamente ajustável.

Treinador	Tarefa	Exportável do ONNX
LightGbmBinaryTrainer	Classificação binária	Sim
LightGbmMulticlassTrainer	Classificação multiclasse	Sim
LightGbmRegressionTrainer	Regressão	Sim
LightGbmRankingTrainer	Classificação	No

Árvore rápida

Use para dados de imagem destacados. Resiliente a dados desbalanceados. Altamente ajustável.

Treinador	Tarefa	Exportável do ONNX
FastTreeBinaryTrainer	Classificação binária	Sim
FastTreeRegressionTrainer	Regressão	Sim
FastTreeTweedieTrainer	Regressão	Sim
FastTreeRankingTrainer	Classificação	No

Floresta rápida

Funciona bem com dados ruidosos.

Treinador	Tarefa	Exportável do ONNX
FastForestBinaryTrainer	Classificação binária	Sim
FastForestRegressionTrainer	Regressão	Sim

GAM (modelo generalizado aditivo)

Melhor para problemas que funcionam bem com algoritmos de árvore, mas em que a explicabilidade é uma prioridade.

Treinador	Tarefa	Exportável do ONNX
GamBinaryTrainer	Classificação binária	No
GamRegressionTrainer	Regressão	No

Fatoração de matriz

Fatoração de matriz

Usado para filtragem colaborativa na recomendação.

Treinador	Tarefa	Exportável do ONNX
MatrixFactorizationTrainer	Recomendação	No

Computador de fatoração com reconhecimento de campo

Melhor para dados categóricos esparsos, com grandes conjuntos de dados.

Treinador	Tarefa	Exportável do ONNX
FieldAwareFactorizationMachineTrainer	Classificação binária	No

Meta-algoritmos

Esses treinadores criam um treinador multiclasse com base em um treinador binário. Use com AveragedPerceptronTrainer, LbfgsLogisticRegressionBinaryTrainer, SymbolicSgdLogisticRegressionBinaryTrainer, LightGbmBinaryTrainer, FastTreeBinaryTrainer, FastForestBinaryTrainer, GamBinaryTrainer.

Um versus todos

Esse classificador multiclasse treina um classificador binário para cada classe, que distingue essa classe de todas as outras. É limitado em escala pelo número de classes a serem categorizadas.

Treinador	Tarefa	Exportável do ONNX
OneVersusAllTrainer	Classificação multiclasse	Sim

Acoplamento por pares

Esse classificador multiclasse treina um algoritmo de classificação binária em cada par de classes. É limitado em escala pelo número de classes, uma vez que cada combinação de duas classes deve ser treinada.

Treinador	Tarefa	Exportável do ONNX
PairwiseCouplingTrainer	Classificação multiclasse	No

K-Means

Usado para clustering.

Treinador	Tarefa	Exportável do ONNX
KMeansTrainer	Clustering	Sim

Análise de componente principal

Usado para detecção de anomalias.

Treinador	Tarefa	Exportável do ONNX
RandomizedPcaTrainer	Detecção de anomalias	No

Naive Bayes

Use este algoritmo de classificação multiclasse quando os recursos forem independentes e o conjunto de dados de treinamento for pequeno.

Treinador	Tarefa	Exportável do ONNX
NaiveBayesMulticlassTrainer	Classificação multiclasse	Sim

Treinador anterior

Use este algoritmo de classificação binária como linha de base para o desempenho de outros treinadores. Para ser eficaz, as métricas dos outros treinadores devem ser melhores do que a do treinador anterior.

Treinador	Tarefa	Exportável do ONNX
PriorTrainer	Classificação binária	Sim

Computador de vetor de suporte

As SVMs (máquinas de vetores de suporte) são uma classe de modelos de aprendizado supervisionado extremamente popular e bem pesquisada, que pode ser usada em tarefas de classificação linear e não linear.

Uma pesquisa recente se concentrou em maneiras de otimizar esses modelos para dimensionar com eficiência para conjuntos de treinamento maiores.

SVM linear

Prevê um destino usando um modelo de classificação binária linear treinado com dados rotulados boolianos. Alterna entre etapas de gradiente descendente estocástico e etapas de projeção.

Treinador	Tarefa	Exportável do ONNX
LinearSvmTrainer	Classificação binária	Sim

SVM local profunda

Prevê um destino usando um modelo de classificação binária não linear. Reduz o custo do tempo de previsão: o custo de previsão cresce logaritmicamente com o tamanho do conjunto de treinamento, em vez de linearmente, com uma perda tolerável na precisão da classificação.

Treinador	Tarefa	Exportável do ONNX
LdSvmTrainer	Classificação binária	Sim

Mínimos quadrados ordinários

Os OLS (mínimos quadrados ordinários) são uma das técnicas mais usadas na regressão linear.

Os quadrados mínimos comuns se referem à função de perda, que calcula o erro como a soma do quadrado da distância entre o valor real e a linha prevista e se ajusta ao modelo, minimizando o erro ao quadrado. Este método assume que há uma relação linear muito forte entre as entradas e a variável dependente.

Treinador	Tarefa	Exportável do ONNX
OlsTrainer	Regressão	Sim