1. 变量选择
1.1. 选择a1a_1a1
目标:选择违反KKT最严重的点
KKT条件:
- 位于间隔边界外的点:ai=0⇔yig(xi)≥1
- 位于间隔边界上的点:0<ai<C=0⇔yig(xi)=1
- 位于间隔边界内的点:ai=C⇔yig(xi)≤1
其中:
g(xi)=j=1∑NajyjK(xi,xj)+b
g(xi)代表对xi的预测结果。
- 满足0<ai<C=0的样本点(即位于间隔边界上的点)中寻找违反KKT最严重的点。
- 所有点中违反KKT最严重的点。
1.2. 选择a2a_2a2
此时已找到a1
目标:选择使a_2有足够大变化的点
- 如果E1>0,选择最小的Ei对应的a2,
如果E1<0,选择最大的Ei对应的a2,
- 遍历位于间隔边界外的点,找到使目标函数有足够下降的样本
- 遍历所有数据集,找到使目标函数有足够下降的样本