当前位置: 网站首页 > ju11.net备用网址

ML.NET 示例:回归之价格预测

2019-05-05来源:ju111九卅娱乐手机版

写在前面

准备近期将微软的machinelearning-samples翻译成中文,水平有限,如有错漏,请大家多多指正。如果有朋友对此感兴趣,可以加入我:https://github.com/feiyun0112/machinelearning-samples.zh-cn

出租车费预测

ML.NET 版本API 类型状态应用程序类型数据类型场景机器学习任务算法
v0.7动态 API最新版本控制台应用程序.csv 文件价格预测回归Sdca 回归

在这个介绍性示例中,您将看到如何使用ML.NET预测出租车费。在机器学习领域,这种类型的预测被称为回归

问题

这个问题主要集中在预测纽约出租车的行程费用。从表面看,它似乎仅仅取决于行程的距离。但是,由于其他因素(比如额外的乘客或使用信用卡而非现金付款),纽约的出租车供应商收费不同。这种预测可用于出租车供应商向用户和司机提供乘车费用的估计。

为了解决这个问题,我们将使用下列输入建立一个ML模型:

供应商ID费率代码乘客数量出行时间出行距离支付方式

并预测乘车的费用。

ML 任务 - 回归

回归的广义问题是预测给定参数的某些连续值,例如:

根据房间的数量、位置、建造年份等预测房子的价格。根据燃油类型和汽车参数预测汽车燃油消耗量。预测基于问题属性来修复问题的时间估计。

所有这些示例的共同特征是我们想要预测的参数可以取特定范围内的任何数值。 换句话说,这个值用integerfloat/double表示,而不是由enumboolean类型表示。

解决方案

为了解决这个问题,首先我们将建立一个ML模型。然后,我们将在现有数据的基础上训练模型,评估其有多好,最后我们将使用该模型来预测出租车费。

1. 建立模型

建立模型包括:上传数据(使用TextLoader加载taxi-fare-train.csv),对数据进行转换,以便ML算法(本例中为“StochasticDualCoordinateAscent”)能够有效地使用它:

//Create ML Context with seed for repeteable/deterministic resultsMLContext mlContext = new MLContext(seed: 0);// STEP 1: Common data loading configurationTextLoader textLoader = mlContext.Data.TextReader(new TextLoader.Arguments() { Separator = ",", HasHeader = true, Column = new[] { new TextLoader.Column("VendorId", DataKind.Text, 0), new TextLoader.Column("RateCode", DataKind.Text, 1), new TextLoader.Column("PassengerCount", DataKind.R4, 2), new TextLoader.Column("TripTime", DataKind.R4, 3), new TextLoader.Column("TripDistance", DataKind.R4, 4), new TextLoader.Column("PaymentType", DataKind.Text, 5), new TextLoader.Column("FareAmount", DataKind.R4, 6) } });IDataView baseTrainingDataView = textLoader.Read(TrainDataPath);IDataView testDataView = textLoader.Read(TestDataPath);//Sample code of removing extreme data like "outliers" for FareAmounts higher than $150 and lower than $1 which can be error-data var cnt = baseTrainingDataView.GetColumn<float>(mlContext, "FareAmount").Count();IDataView trainingDataView = mlContext.Data.FilterByColumn(baseTrainingDataView, "FareAmount", lowerBound: 1, upperBound: 150);var cnt2 = trainingDataView.GetColumn<float>(mlContext, "FareAmount").Count();// STEP 2: Common data process configuration with pipeline data transformationsvar dataProcessPipeline = mlContext.Transforms.CopyColumns("FareAmount", "Label") .Append(mlContext.Transforms.Categorical.OneHotEncoding("VendorId", "VendorIdEncoded")) .Append(mlContext.Transforms.Categorical.OneHotEncoding("RateCode", "RateCodeEncoded")) .Append(mlContext.Transforms.Categorical.OneHotEncoding("PaymentType", "PaymentTypeEncoded")) .Append(mlContext.Transforms.Normalize(inputName: "PassengerCount", mode: NormalizerMode.MeanVariance)) .Append(mlContext.Transforms.Normalize(inputName: "TripTime", mode: NormalizerMode.MeanVariance)) .Append(mlContext.Transforms.Normalize(inputName: "TripDistance", mode: NormalizerMode.MeanVariance)) .Append(mlContext.Transforms.Concatenate("Features", "VendorIdEncoded", "RateCodeEncoded", "PaymentTypeEncoded", "PassengerCount", "TripTime", "TripDistance"));// STEP 3: Set the training algorithm, then create and config the modelBuilder - Selected Trainer (SDCA 回归 algorithm) var trainer = mlContext.Regression.Trainers.StochasticDualCoordinateAscent(labelColumn: "Label", featureColumn: "Features");var trainingPipeline = dataProcessPipeline.Append(trainer);

2. 训练模型

训练模型是在训练数据(具有已知的费用)上运行所选算法以调整模型参数的过程。 它在Fit()API中实现。 要执行训练,我们只需在提供DataView时调用该方法。

var trainedModel = trainingPipeline.Fit(trainingDataView);

3. 评估模型

我们需要这一步来总结我们的模型对新数据的准确性。 为此,上一步中的模型针对另一个未在训练中使用的数据集运行(taxi-fare-test.csv)。 此数据集也包含已知的费用。 Regression.Evaluate()计算已知费用和模型预测的费用之间差异的各种指标。

IDataView predictions = trainedModel.Transform(testDataView);var metrics = mlContext.Regression.Evaluate(predictions, label: "Label", score: "Score");Common.ConsoleHelper.PrintRegressionMetrics(trainer.ToString(), metrics);

要了解有关如何理解指标的更多信息,请查看ML.NET指南中的机器学习词汇表或使用任何有关数据科学和机器学习的材料

如果您对模型的质量不满意,可以采用多种方法对其进行改进,这些方法将在examples类别中介绍。

请记住,对于这个示例,其质量低于可能达到的水平,因为出于性能目的,数据集的大小已减小。您可以使用原始数据集来显著提高质量(原始数据集在数据集README中引用)。

4. 使用模型

在训练模型之后,我们可以使用Predict() API来预测指定行程的费用。

//Sample: //vendor_id,rate_code,passenger_count,trip_time_in_secs,trip_distance,payment_type,fare_amount//VTS,1,1,1140,3.75,CRD,15.5var taxiTripSample = new TaxiTrip(){ VendorId = "VTS", RateCode = "1", PassengerCount = 1, TripTime = 1140, TripDistance = 3.75f, PaymentType = "CRD", FareAmount = 0 // To predict. Actual/Observed = 15.5};ITransformer trainedModel;using (var stream = new FileStream(ModelPath, FileMode.Open, FileAccess.Read, FileShare.Read)){ trainedModel = mlContext.Model.Load(stream);}// Create prediction engine related to the loaded trained modelvar predFunction = trainedModel.MakePredictionFunction<TaxiTrip, TaxiTripFarePrediction>(mlContext);//Scorevar resultprediction = predFunction.Predict(taxiTripSample);Console.WriteLine($"**********************************************************************");Console.WriteLine($"Predicted fare: {resultprediction.FareAmount:0.####}, actual fare: 15.5");Console.WriteLine($"**********************************************************************");

最后,您可以用方法PlotRegressionChart()在图表中展现测试预测的分布情况以及回归的执行方式,如下面的屏幕截图所示: