1. 变量选择

1.1. 选择a1a_1a​1​​

目标:选择违反KKT最严重的点

KKT条件:

  • 位于间隔边界外的点:ai=0yig(xi)1a_i=0 \Leftrightarrow y_ig(x_i) \ge 1
  • 位于间隔边界上的点:0<ai<C=0yig(xi)=10 \lt a_i \lt C=0 \Leftrightarrow y_ig(x_i) = 1
  • 位于间隔边界内的点:ai=Cyig(xi)1a_i = C \Leftrightarrow y_ig(x_i) \le 1

其中:
g(xi)=j=1NajyjK(xi,xj)+b g(x_i) = \sum_{j=1}^Na_jy_jK(x_i, x_j) + b g(xi)g(x_i)代表对xix_i的预测结果。

  1. 满足0<ai<C=00 \lt a_i \lt C=0的样本点(即位于间隔边界上的点)中寻找违反KKT最严重的点。
  2. 所有点中违反KKT最严重的点。

1.2. 选择a2a_2a​2​​

此时已找到a1a_1
目标:选择使a_2有足够大变化的点

  1. 如果E1>0E_1 \gt 0,选择最小的Ei对应的a2,
    如果E1<0E_1 \lt 0,选择最大的Ei对应的a2,
  2. 遍历位于间隔边界外的点,找到使目标函数有足够下降的样本
  3. 遍历所有数据集,找到使目标函数有足够下降的样本

results matching ""

    No results matching ""