使用交叉驗證定型機器學習模型

  • 發行項

了解如何使用交叉驗證在 ML.NET 中定型更強固的機器學習模型。

交叉驗證是一種定型和模型評估技巧，會將資料分割成幾個分割，在這些分割上定型多個演算法。 這項技巧藉由定型程序提供的資料，改善模型的穩定性。 除了提升看不見的觀察值效能之外，在資料限制的環境中，它是使用較小資料集定型模型的有效工具。

資料和資料模型

檔案提供的資料具有下列格式：

Size (Sq. ft.), HistoricalPrice1 ($), HistoricalPrice2 ($), HistoricalPrice3 ($), Current Price ($)
620.00, 148330.32, 140913.81, 136686.39, 146105.37
550.00, 557033.46, 529181.78, 513306.33, 548677.95
1127.00, 479320.99, 455354.94, 441694.30, 472131.18
1120.00, 47504.98, 45129.73, 43775.84, 46792.41

資料可由 HousingData 等類別建立模型，並載入至 IDataView。

public class HousingData
{
    [LoadColumn(0)]
    public float Size { get; set; }

    [LoadColumn(1, 3)]
    [VectorType(3)]
    public float[] HistoricalPrices { get; set; }

    [LoadColumn(4)]
    [ColumnName("Label")]
    public float CurrentPrice { get; set; }
}

準備資料

先前置處理資料，再用它建置機器學習模型。 在此範例中，Size 和 HistoricalPrices 資料行會結合成單一的特性向量，使用 Concatenate 方法輸出至新的資料行，稱為 Features。 除了將資料變成 ML.NET 演算法預期的格式，串連資料行最佳化管線中的後續作業，方法是將作業一次套用到串連資料行，而不是各個資料行分別套用。

一旦資料行結合成單一的向量，NormalizeMinMax 就會套用至 Features 資料行，讓 Size 和 HistoricalPrices 都在 0-1 間的相同範圍內。

// Define data prep estimator
IEstimator<ITransformer> dataPrepEstimator =
    mlContext.Transforms.Concatenate("Features", new string[] { "Size", "HistoricalPrices" })
        .Append(mlContext.Transforms.NormalizeMinMax("Features"));

// Create data prep transformer
ITransformer dataPrepTransformer = dataPrepEstimator.Fit(data);

// Transform data
IDataView transformedData = dataPrepTransformer.Transform(data);

使用交叉驗證定型模型

一旦資料經過預先處理，就可以定型模型。 首先，選取最能配合機器學習工作執行的演算法。 因為預測的值是數值連續值，所以工作為迴歸。 ML.NET 實作的其中一個迴歸演算法是 StochasticDualCoordinateAscentCoordinator 演算法。 使用 CrossValidate 方法以交叉驗證定型模型。

注意

雖然這個範例使用線性迴歸模型，但除異常偵測外，CrossValidate 適用於 ML.NET 中的所有其他機器學習工作。

// Define StochasticDualCoordinateAscent algorithm estimator
IEstimator<ITransformer> sdcaEstimator = mlContext.Regression.Trainers.Sdca();

// Apply 5-fold cross validation
var cvResults = mlContext.Regression.CrossValidate(transformedData, sdcaEstimator, numberOfFolds: 5);

CrossValidate 執行下列作業：

  1. 將資料分割成 numberOfFolds 參數指定值的數目。 每個分割的結果都是 TrainTestData 物件。
  2. 對定型資料集使用指定的機器學習演算法評估工具，在每個分割上定型模型。
  3. 對測試資料集使用 Evaluate 方法，評估每個模型的效能。
  4. 針對每個模型傳回模型及其計量。

儲存在 cvResults 中的結果是 CrossValidationResult 物件的集合。 此物件包含定型的模型以及計量，可分別從 Model 和 Metrics 屬性中存取。 在此範例中，Model 屬性的類型是 ITransformer，而 Metrics 屬性的類型是 RegressionMetrics。

評估模型

您可以透過個別 CrossValidationResult 物件的 Metrics 屬性存取不同定型模型的計量。 在本例中，R 平方計量是在變數 rSquared 中存取儲存。

IEnumerable<double> rSquared =
    cvResults
        .Select(fold => fold.Metrics.RSquared);

如果您檢查 rSquared 變數的內容，輸出應該是介於 0-1 之間的五個值，接近 1 表示最佳。 使用如 R 平方的計量，選取表現最佳到最差的模型。 然後，選取要進行預測或執行其他作業的最上層模型。

// Select all models
ITransformer[] models =
    cvResults
        .OrderByDescending(fold => fold.Metrics.RSquared)
        .Select(fold => fold.Model)
        .ToArray();

// Get Top Model
ITransformer topModel = models[0];