1Perceptron
与
SVM
概念介绍
1.1
感知机
(Perceptron)
感知机(
perceptron
)
1957
年由
Rosenblatt
提出，是神经网络与支持向
量机的基础
†
感知
机，
是二类分类的线性分类模型，
其输入为样本的特征向量，
输
出为样本的类别
出为样本
的类别，
取
+1
和‐
1
二值，
即通过某样本的特征
即通过某样本的特征，
就可以准确
判断该
样本属于哪一类。感知机能够解决的问题首先要求特征空间是
线性可分的，再者是二类分
类，即将样本分为
{+1,
‐
1}
两类。由输入空间到输出空间的符号函数
:
其中，
w
和
b
为感知机参数，
w
为权值(
weight
)，
b
为偏置(
bias
)。
在感知机的定义中，
线性方程对应于问题空间中的
1
个超平面
(二维空间中为直线)
S
，
位于这个超平面两侧的样本分别被归为两类，例如下图，红色作为一类(正类)，蓝色作为
另一类(负类)，它们的特征很简单，就是它们的坐标。
作为有监督学习的一种方法，
感知机学习由训练集，
求得感知机模型，
即求得模型参数
w
，
b
，这里
x
和
y
分
别是特征向量和类别(也称为目标)。基于此，感知
机模型可以对
新的输入样本进行分类。
