什么值可以进入 sklearn 中 HistGradientBoostingRegressor 的参数 l2_regularization

问题描述

我正在尝试在 sklearn 中调整 HistGradientBoostingRegressor 的超参数，并想知道 l2_regularization 的可能值是什么，对我有用的其余参数网格看起来像这样 - >

param_grid = {
    'learning_rate': [.1,.12],'max_iter': [1000,1200],'min_samples_leaf': [15,20],'max_depth': [None,10,20]
}

这里 0.12 和 1000 次迭代的学习率给出了足够好的结果。所以我想知道 l2_regularization 的值是什么样的？它们是 .1,.2 像学习率还是整数？据我了解，l2 用于正则化惩罚以减少模型中的方差。如有不对请指正

解决方法

确实，正则化是添加到损失函数中的约束。最小化损失函数时的模型也必须最小化正则化项。因此，这将减少模型方差，因为它不会过拟合。

l2_regularization 的可接受参数通常在 0 和 0.1 之间的对数刻度上，例如 0.1,0.001,0.0001。