感知机

分类和回归

机器学习中两大类问题,分类和回归

  • 回归:how much
  • 分类: yes/no
  • 是否是垃圾邮件
  • 是否会下载应用
  • 这个人是不是病了

感知机:神经网络的基础

感知能力在心理学上的定义是人脑通过其感受器所接收到的刺激的物理信息。

感官就是负责接收特定的物理刺激,再将刺激转换成可被人脑理解的电化学信息的物理系统。

image-20191118182414493

感知案例

香蕉还是苹果

1602327074918

image-20191118184947184

image-20191118185302381

问题:

如何找到这样的一条线?

1,1 的值对应的是苹果 还是香蕉?

0,0的值对应的是苹果还是香蕉?

1,0 的值呢?

0,1 的值呢?

决策边界

y=mx+b 是线性回归问题,预测的都是在线上分布的点

分类问题,产生了的是一个决策线, 在决策线上的点 是一种类别(苹果),线下的点是一种类别(香蕉)

m_1x_1 + m_2x_2 + b = 0 这一条线就是决策边界, 把坐标点带入决策边界线

score = m_1x_1+m_2x_2+b

f\left( x\right) =\begin{cases}score >0:Apple\\ score <0:banana\end{cases}

换成矩阵运算方式

weight=\begin{bmatrix} w_{1} \\ w_{2} \\ b \end{bmatrix}

feature = \begin{bmatrix} x_{1} & x_{2} & 1 \end{bmatrix}

$Feature * Weight >0 $ Apple

$Feature * Weight <0 $ Banana

\overline {f(x_1,x_2)}=\begin{cases}1\left( Feature*Weight >0\right) \\ 0\left( Feature*Weight <0\right) \end{cases}

高维空间的决策边界

image-20191118193344569

换成矩阵运算方式

weight=\begin{bmatrix} w_{1} \\ w_{2}\\ w_{3} \\ b \end{bmatrix}

feature = \begin{bmatrix} x_{1} & x_{2} & x_{3} &1 \end{bmatrix}

$Feature * Weight >0 $ Apple

$Feature * Weight <0 $ Banana

\overline {f(x_1,x_2,x_3)}=\begin{cases}1\left( Feature*Weight >0\right) \\ 0\left( Feature*Weight <0\right) \end{cases}

智能避障系统

左边距离x1 正前方距离x2 右边距离x3 输出
3.6 2.2 5.5 左转
1.8 1.7 2.3 右转
5.4 2.7 3.1 左转

求解w1,w2,w3和b

感知机

1602329128622

image-20191118211150813

激活函数 step function

image-20191118211534279