R语言机器学习笔记(七):mlr模型调参

2020-07-15 00:00:00 参数 算法 定义 网格 次方

前文提要:

HopeR:R语言机器学习笔记(一):mlr总纲

HopeR:R语言机器学习笔记(二):mlr任务定义

HopeR:R语言机器学习笔记(三):mlr学习器定义

HopeR:R语言机器学习笔记(四):mlr模型训练

HopeR:R语言机器学习笔记(五):mlr模型预测

HopeR:R语言机器学习笔记(六):mlr数据预处理


一个模型可能会有很多超参数,这些超参数的排列组合,我们必须不断尝试才能够知道哪个效果好。mlr能够让我们设置一个网格,然后对这些参数组合进行尝试,然后选择效果好的模型。要做调参,需要做三个步骤:

1、定义搜索空间;

2、定义优化算法;

3、确立评估方法。

定义搜索空间

比如SVM方法有两个参数(C和gamma)可以调(SVM的两个参数 C 和 gamma),那么我们就可以这样设置网格:

discrete_ps = makeParamSet(
  makeDiscreteParam("C", values = c(0.5, 1.0, 1.5, 2.0)),
  makeDiscreteParam("sigma", values = c(0.5, 1.0, 1.5, 2.0))
)
print(discrete_ps)
##           Type len Def      Constr Req Tunable Trafo
## C     discrete   -   - 0.5,1,1.5,2   -    TRUE     -
## sigma discrete   -   - 0.5,1,1.5,2   -    TRUE     -

相关文章