梯度提升算法用于解决一般决策问题。它的算法过程与回归问题提升树前向分步算法类似,区别是计算residual的公式不同。
在回归问题中,residualmi=yi−fm−1(xi) \text {residual}_{mi} = y_i - f_{m-1}(x_i) residualmi=yi−fm−1(xi)
在一般决策问题中,residualmi=损失函数的负梯度在xi处的值 \text {residual}_{mi} = \text{损失函数的负梯度在xi处的值} residualmi=损失函数的负梯度在xi处的值