Как извлечь лучшие параметры из CrossValidatorModel

Ответ 1

Одним из способов получения правильного объекта ParamMap является использование CrossValidatorModel.avgMetrics: Array[Double] для поиска argmax ParamMap:

implicit class BestParamMapCrossValidatorModel(cvModel: CrossValidatorModel) {
  def bestEstimatorParamMap: ParamMap = {
    cvModel.getEstimatorParamMaps
           .zip(cvModel.avgMetrics)
           .maxBy(_._2)
           ._1
  }
}

При запуске на CrossValidatorModel, обученном в примере трубопровода, который вы указали, выдает:

scala> println(cvModel.bestEstimatorParamMap)
{
   hashingTF_2b0b8ccaeeec-numFeatures: 100,
   logreg_950a13184247-regParam: 0.1
}

Ответ 2

val bestPipelineModel = cvModel.bestModel.asInstanceOf[PipelineModel]
val stages = bestPipelineModel.stages

val hashingStage = stages(1).asInstanceOf[HashingTF]
println("numFeatures = " + hashingStage.getNumFeatures)

val lrStage = stages(2).asInstanceOf[LogisticRegressionModel]
println("regParam = " + lrStage.getRegParam)

источник

Ответ 3

Вот как вы получаете выбранные параметры

println(cvModel.bestModel.getMaxIter)   
println(cvModel.bestModel.getRegParam)  

Ответ 4

этот код Java должен работать: cvModel.bestModel().parent().extractParamMap(). Вы можете перевести его на код scala parent() метод вернет оценку, тогда вы можете получить лучшие параметры.

Ответ 5

Чтобы напечатать все в paramMap, вам на самом деле не нужно вызывать parent:

cvModel.bestModel().extractParamMap()

Чтобы ответить на вопрос OP, получить единственный лучший параметр, например regParam:

cvModel.bestModel().extractParamMap().apply(cvModel.bestModel.getParam("regParam"))

Ответ 6

Это параметр ParamGridBuilder()

paraGrid = ParamGridBuilder().addGrid(
hashingTF.numFeatures, [10, 100, 1000]
).addGrid(
    lr.regParam, [0.1, 0.01, 0.001]
).build()

В трубопроводе 3 этапа. Кажется, мы можем оценить параметры следующим образом:

for stage in cv_model.bestModel.stages:
    print 'stages: {}'.format(stage)
    print stage.params
    print '\n'

stage: Tokenizer_46ffb9fac5968c6c152b
[Param(parent='Tokenizer_46ffb9fac5968c6c152b', name='inputCol', doc='input column name'), Param(parent='Tokenizer_46ffb9fac5968c6c152b', name='outputCol', doc='output column name')]

stage: HashingTF_40e1af3ba73764848d43
[Param(parent='HashingTF_40e1af3ba73764848d43', name='inputCol', doc='input column name'), Param(parent='HashingTF_40e1af3ba73764848d43', name='numFeatures', doc='number of features'), Param(parent='HashingTF_40e1af3ba73764848d43', name='outputCol', doc='output column name')]

stage: LogisticRegression_451b8c8dbef84ecab7a9
[]

Однако на последнем этапе нет параметра logiscRegression.

Мы также можем получить параметр вес и перехватить из логистической регрессии, как показано ниже:

cv_model.bestModel.stages[1].getNumFeatures()
10
cv_model.bestModel.stages[2].intercept
1.5791827733883774
cv_model.bestModel.stages[2].weights
DenseVector([-2.5361, -0.9541, 0.4124, 4.2108, 4.4707, 4.9451, -0.3045, 5.4348, -0.1977, -1.8361])

Полная разведка: http://kuanliang.github.io/2016-06-07-SparkML-pipeline/

Ответ 7

Я работаю со Spark Scala 1.6.x, и вот полный пример того, как я могу установить и подогнать CrossValidator, а затем вернуть значение параметра, использованного для получения наилучшей модели (при условии, что training.toDF дает готовый кадр данных) будет использоваться):

import org.apache.spark.ml.classification.LogisticRegression
import org.apache.spark.ml.tuning.{CrossValidator, ParamGridBuilder}
import org.apache.spark.ml.evaluation.MulticlassClassificationEvaluator

// Instantiate a LogisticRegression object
val lr = new LogisticRegression()

// Instantiate a ParamGrid with different values for the 'RegParam' parameter of the logistic regression
val paramGrid = new ParamGridBuilder().addGrid(lr.regParam, Array(0.0001, 0.001, 0.01, 0.1, 0.25, 0.5, 0.75, 1)).build()

// Setting and fitting the CrossValidator on the training set, using 'MultiClassClassificationEvaluator' as evaluator
val crossVal = new CrossValidator().setEstimator(lr).setEvaluator(new MulticlassClassificationEvaluator).setEstimatorParamMaps(paramGrid)
val cvModel = crossVal.fit(training.toDF)

// Getting the value of the 'RegParam' used to get the best model
val bestModel = cvModel.bestModel                    // Getting the best model
val paramReference = bestModel.getParam("regParam")  // Getting the reference of the parameter you want (only the reference, not the value)
val paramValue = bestModel.get(paramReference)       // Getting the value of this parameter
print(paramValue)                                    // In my case : 0.001

Вы можете сделать то же самое для любого параметра или модели любого другого типа.

Ответ 8

Если Java, посмотрите это шоу отладки;

bestModel.parent().extractParamMap()

Ответ 9

Построение в решении @macfeliga, единственного лайнера, который работает для pipeопроводов:

cvModel.bestModel.asInstanceOf[PipelineModel]
    .stages.foreach(stage => println(stage.extractParamMap))