支持向量机（SVM）算法与代码实现

约束优化问题硬间隔 SVM软间隔 SVM核方法介绍SVM代码实现自编函数实现sklearn.svm.SVC 小结

支持向量机（SVM）算法在分类问题中有着重要地位，其主要思想是最大化两类之间的间隔。按照数据集的特点：

线性可分问题，如之前的感知机算法处理的问题线性可分，只有一点点错误点，如感知机算法发展出来的 Pocket 算法处理的问题非线性问题，完全不可分，如在感知机问题发展出来的多层感知机和深度学习

这三种情况对于 SVM 分别有下面三种处理手段：

硬间隔 SVM软间隔 SVM核方法 Method

SVM 的求解中，大量用到了Lagrange 乘子法，首先对这种方法进行介绍。

约束优化问题

一般地，约束优化问题（原问题）可以写成：