感知机对偶形式由感知机原始形式变化而来。
在原始形式中,感知机的模型为:
f(x)=sign(w⋅x+b)sign(x)={+1,−1,x≥0x<0(1)
根据梯度下降法的推导过程可知,当基于一个误分类样本(xi,yi)作调整时,会这样移动w和b
{wnew=wold+ηyixibnew=bold+ηyi
假设初始(w, b)为0,且对每个样本(xi,yi)分别作了ai次调整,那么最终的(w, b)为:
{w=∑aiηyixib=∑aiyi(2)
把公式(2)代入公式(1)得:
f(x)=sign(j=1∑majyjxj⋅x+b)sign(x)={+1,−1,x≥0x<0