梯度提升的实现

2024-10-16 17:21:49 发布

您现在位置:Python中文网/ 问答频道 /正文

目前我正在阅读彼得·哈林顿的《机器学习在行动》。我试着用书中的一些AdaBoost代码来实现梯度提升。我使用的伪代码来自 统计学习“,作者Trevor Hastie et al。以及Friedman梯度Boost算法。我花了不少时间和精力在python中实现这个算法,如果您能指出我的错误在哪里,我将不胜感激。在

stumpReg(), buildstumReg(), gradBoostPredict()

是从书中改编的助手函数。我用绝对误差损失作为损失函数 代码如下:

^{pr2}$

有些事情是非常错误的,因为预测值与实际值相差甚远。如果需要的话,我非常乐意再作澄清。 提前谢谢。在


Tags: 函数代码算法机器错误作者et梯度