SVM模型(Support Vector Machine, 支持向量机)属于一种有监督的机器学习算法,可用于离散因变量的分类和连续因变量的预测。
它可以将低维线性不可分的空间转换为高维的线性可分空间。
SVM的简介
距离公式
点到一条直线(Ax+By+C=0)
平行线距离:
实现思想
多个分割的直线是否存在一个最优直线?——最优“超平面”
几种常见的SVM模型
线性可分的SVM
线性可分的SVM所对应的函数间隔满足函数间隔大于等于1。
近似线性可分的SVM
近似SVM也成为线性SVM,主要为了解决样本点不满足函数间隔大于等于1的分类问题。对样本点的间隔加上松弛因子,
非线性可分的SVM
将原始空间的样本点映射到高维的新空间中,在新空间中寻找超平面。
在实际应用中,非线性可分的SVM核函数主要包括线性核函数、多项式核函数、高斯核函数以及Sigmoid核函数。
SVM模型应用
## S3 method for class 'formula'svm(formula, data = NULL, ..., subset, na.action =na.omit, scale = TRUE)## Default S3 method:svm(x, y = NULL, scale = TRUE, type = NULL, kernel ="radial", degree = 3, gamma = if (is.vector(x)) 1 else 1 / ncol(x),coef0 = 0, cost = 1, nu = 0.5,class.weights = NULL, cachesize = 40, tolerance = 0.001, epsilon = 0.1,shrinking = TRUE, cross = 0, probability = FALSE, fitted = TRUE,..., subset, na.action = na.omit)#type-C-classification, nu-classification, one-classification,eps-regression, nu-regression#kernel 四种方案: 线性-linear 多项式-polynomial 径向基核-radial 以及sigmoid核-sigmoid
附上SVM使用说明:http://127.0.0.1:16266/help/library/e1071/doc/svmdoc.pdfhttp://127.0.0.1:16266/help/library/e1071/doc/svmdoc.pdf