重新训练模型

项目
04/19/2024

了解如何在 ML.NET 中重新训练机器学习模型。

世界及其数据不断变化。因此，模型也需要更改和更新。借助 ML.NET 提供的功能，可以将已学习的模型参数作为起点并不断汲取以往经验来重新训练模型，而不必每次都从头开始。

以下算法可在 ML.NET 中重新训练：

加载预先训练的模型

首先，将预先训练的模型加载到应用程序中。若要了解有关加载训练管道和模型的详细信息，请参阅保存和加载已定型模型。

// Create MLContext
MLContext mlContext = new MLContext();

// Define DataViewSchema of data prep pipeline and trained model
DataViewSchema dataPrepPipelineSchema, modelSchema;

// Load data preparation pipeline
ITransformer dataPrepPipeline = mlContext.Model.Load("data_preparation_pipeline.zip", out dataPrepPipelineSchema);

// Load trained model
ITransformer trainedModel = mlContext.Model.Load("ogd_model.zip", out modelSchema);

提取预先训练的模型参数

加载模型后，通过访问预先训练模型的 Model 属性来提取已学习的模型参数。预先训练的模型是使用线性回归模型 OnlineGradientDescentTrainer 训练的，该模型创建输出 LinearRegressionModelParameters 的 RegressionPredictionTransformer。这些模型参数包含模型已学习的偏差和权重或系数。这些值用作新的重新训练模型的起点。

// Extract trained model parameters
LinearRegressionModelParameters originalModelParameters =
    ((ISingleFeaturePredictionTransformer<object>)trainedModel).Model as LinearRegressionModelParameters;

注意

模型参数输出取决于所使用的算法。例如，OnlineGradientDescentTrainer 使用 LinearRegressionModelParameters，而 LbfgsMaximumEntropyMulticlassTrainer 输出 MaximumEntropyModelParameters。提取模型参数时，强制转换为适当的类型。

重新训练模型

重新训练模型的过程与训练模型的过程没有什么不同。唯一的区别是，除了数据之外，Fit 方法还将原始学习模型参数作为输入，并将它们用作重新训练过程的起点。

// New Data
HousingData[] housingData = new HousingData[]
{
    new HousingData
    {
        Size = 850f,
        HistoricalPrices = new float[] { 150000f,175000f,210000f },
        CurrentPrice = 205000f
    },
    new HousingData
    {
        Size = 900f,
        HistoricalPrices = new float[] { 155000f, 190000f, 220000f },
        CurrentPrice = 210000f
    },
    new HousingData
    {
        Size = 550f,
        HistoricalPrices = new float[] { 99000f, 98000f, 130000f },
        CurrentPrice = 180000f
    }
};

//Load New Data
IDataView newData = mlContext.Data.LoadFromEnumerable<HousingData>(housingData);

// Preprocess Data
IDataView transformedNewData = dataPrepPipeline.Transform(newData);

// Retrain model
RegressionPredictionTransformer<LinearRegressionModelParameters> retrainedModel =
    mlContext.Regression.Trainers.OnlineGradientDescent()
        .Fit(transformedNewData, originalModelParameters);

现在，可以保存重新训练的模型并在应用程序中使用该模型。有关详细信息，请参阅保存和加载经过训练的模型和使用经过训练的模型进行预测指南。

比较模型参数

如何知道是否真的进行了重新训练？一种方法是比较重新训练模型的参数是否与原始模型的参数不同。下面的代码示例将原始模型与重新训练模型的权重进行比较，并将它们输出到控制台。

// Extract Model Parameters of re-trained model
LinearRegressionModelParameters retrainedModelParameters = retrainedModel.Model as LinearRegressionModelParameters;

// Inspect Change in Weights
var weightDiffs =
    originalModelParameters.Weights.Zip(
        retrainedModelParameters.Weights, (original, retrained) => original - retrained).ToArray();

Console.WriteLine("Original | Retrained | Difference");
for(int i=0;i < weightDiffs.Count();i++)
{
    Console.WriteLine($"{originalModelParameters.Weights[i]} | {retrainedModelParameters.Weights[i]} | {weightDiffs[i]}");
}

下表显示了输出的外观。

原始	重新训练后	差值
33039.86	56293.76	-23253.9
29099.14	49586.03	-20486.89
28938.38	48609.23	-19670.85
30484.02	53745.43	-23261.41

通过

重新训练模型

加载预先训练的模型

提取预先训练的模型参数

重新训练模型

比较模型参数

其他资源