编程导航：nav.wenancoding.com
集体 blog：wenancoding.com
gzh：【问安 coding】
定义
感知机接管多个输出信号，输入一个信号。感知机的信号只有 1 / 0 两种取值，0 对应“不传递信号”，1 对应“传递信号”。
- x 1，x 2 是输出信号。
- y 是输入信号。
- w 1、w 2 是权重（w 是 weight 的首字母）。每个变量都有权重，权重越大，对应该权重的信号的重要性就越高。
- 图中的○称为“神经元”或者“节点”。
输出信号被送往神经元时，会被别离乘以固定的权重（w 1 x 1、w 2 x 2）。神经元会计算传送过去的信号的 总和，只有当这个总和超过了某个界线值时，才会输入 1。这也称为“神经元被激活”。这里将这个界线值称为阈值，用符号 θ 示意。
导入权重和偏置
为不便后续的计算，把感知机公式改为：
比照两个公式：尽管有符号不同，但 表白的内容是完全相同 的。 b 称为偏置，w 1 和 w 2 称为权重。感知机会计算输出信号和权重的乘积，而后加上偏置，如果这个值大于 0 则输入 1，否则输入 0。
−θ 命名为偏置 b，然而请留神，偏置 b 和权重 w 1、w 2 的作用是不一样的。具体地说，w 1 和 w 2 是管制输出信号的重要性的参数，而偏置是调整神经元被激活的容易水平（输入信号为 1 的水平）的参数。比方，若 b 为−0.1，则只有输出信号的加权总和超过 0.1，神经元就会被激活。然而如果 b 为−20.0，则输出信号的加权总和必须超过 20.0，神经元才会被激活。像这样，偏置的值决定了神经元被激活的容易水平。另外，这里咱们将 w 1 和 w 2 称为权重，将 b 称为偏置，然而依据上下文，有时也会将 b、w 1、w 2 这些参数统称为权重。
简略的逻辑电路
与门（AND gate）
- 全真为真，其余为假
- 全为 1 才是 1，否则为 0
感知机实现与门
公式的不同模式实现，后续以第二种数学公式为主
def AND(x1, x2):
w1, w2, theta = 0.5, 0.5, 0.7
tmp = x1*w1 + x2*w2
if tmp <= theta:
return 0
elif tmp > theta:
return 1
================
AND(0, 0) # 输入 0
AND(1, 0) # 输入 0
AND(0, 1) # 输入 0
AND(1, 1) # 输入 1
def AND(x1, x2):
x = np.array([x1, x2])
w = np.array([0.5, 0.5])
b = -0.7
tmp = np.sum(w*x) + b
if tmp <= 0:
return 0
else:
return 1与非门（NAND gate）
- NAND：not and，和 与门相同。
- 全真为假，其余为真
- 全为 1 则是 0，否则为 1
感知机实现与非门
def NAND(x1, x2):
x = np.array([x1, x2])
w = np.array([-0.5, -0.5])
b = 0.7
tmp = np.sum(w*x) + b
if tmp <= 0:
return 0
else:
return 1或门（OR gate）
- 有真为真，全假为假
- 有 1 便是 1，全 0 才是 0
感知机实现或门
def OR(x1, x2):
x = np.array([x1, x2])
w = np.array([0.5, 0.5])
b = -0.2
tmp = np.sum(w*x) + b
if tmp <= 0:
return 0
else:
return 1感知机的局限性
异或门
- 一个真才是真，其余为假
- 只有一个 1 才是 1，其余为 0
应用实现 与、非与、或 的感知机无奈实现 异或
起因剖析
以或门为例，当权重参数 (b, w 1 , w 2) = (−0.5, 1.0, 1.0) 时，可满足或门的条件。此时，感知机可示意为：
剖析该分段函数，该直线把立体分为两个值为 1 或 0 的区域，直线下方为 0，直线上方为 1。
相似的，与门，非与门同样能够示意成相似图像。换言之，对于 与、非与、或 咱们能够应用一条直线把立体分为两个区域。这种由直线宰割而成的空间称为 线性空间。
对于异或图像，想要用一条直线将图的○和△离开，无论如何都做不到。事实上，用一条直线是无奈将○和△离开的。
只能应用曲线把它们宰割开来
这样的曲线宰割而成的空间称为 非线性空间。
如何实现异或门
- 利用已有的门进行组合叠加即可实现异或门
门的符号：
异或门的实现：
from and_gate import AND
from or_gate import OR
from nand_gate import NAND
# y 的代码
def XOR(x1, x2):
s1 = NAND(x1, x2)
s2 = OR(x1, x2)
y = AND(s1, s2)
return y多层感知机
比照 与、非与、或 的感知机
异或 的感知机
图中的感知机总共由 3 层形成，然而因为领有权重的层本质上只有 2 层（第 0 层和第 1 层之间，第 1 层和第 2 层之间），所以称为“2 层感知机”。不过，有的文献认为该图感知机是由 3 层形成的，因此将其称为“3 层感知机”。
- 第 0 层的两个神经元接管输出信号，并将信号发送至第 1 层的神经元。
- 第 1 层的神经元将信号发送至第 2 层的神经元，第 2 层的神经元输入 y。
这种 2 层感知机的运行过程能够比作流水线的组装作业。第 1 段（第 1 层）工人对传送过去的整机进行加工，实现后再传送给第 2 段（第 2 层）的工人。第 2 层的工人对第 1 层的工人传过来的整机进行加工，实现这个整机后出货（输入）。像这样，在异或门的感知机中，工人之间一直进行整机的传送。通过这样的构造（2 层构造），感知机得以实现异或门。这能够解释为“单层感知机无奈示意的货色，通过减少一层就能够解决”。也就是说，通过叠加层（加深层），感知机能进行更加灵便的示意。
感知机的拓展
多层感知机能够实现比之前见到的电路更简单的电路。比方，进行加法运算的加法器也能够用感知机实现。此外，将二进制转换为十进制的编码器、满足某些条件就输入 1 的电路（用于等价测验的电路）等也能够用感知机示意。实际上，应用感知机甚至能够示意计算机！
内容小结
- 感知机是具备输出和输入的算法。给定一个输出后，将输入一个既定的值。
- 感知机将权重和偏置设定为参数。
- 应用感知机能够示意与门和或门等逻辑电路。
- 异或门无奈通过单层感知机来示意。
- 应用 2 层感知机能够示意异或门。
- 单层感知机只能示意线性空间，而多层感知机能够示意非线性空间。
- 多层感知机（在实践上）能够示意计算机。