sklearn中HistGradientBoostingRegressionor的参数l2_正则化可以包含哪些值

Question

我正在尝试在sklearn中调优HistGradientBoostingRegressor的超参数，并想知道l2_regularization的可能值，对我有效的参数网格的其余部分如下所示-

param_grid = {
    'learning_rate': [.1, .12],
    'max_iter': [1000, 1200],
    'min_samples_leaf': [15, 20],
    'max_depth': [None, 10, 20]
}

这里，学习率为.12和1000次迭代给出了足够好的结果。所以我想知道l2_regularization的值是什么类型的？它们是.1, .2样的学习率还是整数？据我所知，l2用于正则化惩罚，以减少模型中的方差。如果我错了，请纠正我

Answer 1

事实上，正则化是添加到损失函数中的约束。当最小化损失函数时，模型还必须最小化正则化项。因此，这将减少模型方差，因为它不会过度拟合

l2_regularization的可接受参数通常在0和0.1之间的对数刻度上，例如0.1, 0.001, 0.0001