思路:求一条曲线,使所有样本点到曲线的距离为最小值,最大点x为到直线的距离:$$l=\frac{1}{{\左\|w\right\|}}({w^T}x+b)$$对于二分类,y的取值只有-1和1,那么符号相同表示分类正确,不同的符号表示分类错误。在感知算法中,会有多个这样的超平面来寻找最好的一个。几何区间:$\widehat{{y_i}}={y_i}({w^T}{x_i}+b)$函数区间:$\widehat{{y_i}}={y_i}\frac{1}{{\左\|w\right\|}}({w^T}{x_i}+b)$可以看出w和b同时展开超平面,不变,有:$$\mathop{\max}\limits_{w,b}\widehaty\&\&{y_i}({w^T}{x_i}+b)\ge\widehaty,i=1,2,...,m$$由于到$\widehaty$的值不会影响w,b,所以取$\widehaty=1$并引入松弛变量:$$\begin{array}{l}\mathop{\min}\limits_{w,b,\xi}\左\|w\对\|+c\sum\limits_{i=1}^m{{\xi_i}}\\s.t.{y_i}({w^T}{x_i}+b)\ge1-{\xi_i},i=1,2,...,m\end{array}$$然后用拉格朗日乘数法将其转化为无约束问题,用SMO求解。
