1. 模型
加法模型 additive model
f(x)=m=1∑Mβmb(x;γm)
其中:
βmb(x;γm)是基函数
γm是参数
βm是系数
2. 策略
损失函数:
βm,γmmini=1∑NL(yi,m=1∑Mβmb(xi;γm))
公式中,N为样本的个数,M为基函数的个数
使用经验风险极小化作为损失函数极小化
3. 算法
前向分步算法 forward algorithm
因为学习的是加法模型,如果能从前向后,每一步只学习一个基函数及其系数,逐渐逼近优化目标函数式(2),那么就可以简化优化的复杂度。
具体地,每步只需要优化如下损失函数:
β,γmini=1∑NL(yi,βb(xi;γ))