编程导航：nav.wenancoding.com
集体blog：wenancoding.com
gzh：【问安coding】

定义

感知机接管多个输出信号，输入一个信号。感知机的信号只有1/0两种取值，0对应“不传递信号”，1对应“传递信号”。

  • x 1 ，x 2 是输出信号。
  • y是输入信号。
  • w 1 、w 2 是权重（w是weight的首字母）。每个变量都有权重，权重越大，对应该权重的信号的重要性就越高。
  • 图中的○称为“神经元”或者“节点”。

输出信号被送往神经元时，会被别离乘以固定的权重（w 1 x 1 、w 2 x 2 ）。神经元会计算传送过去的信号的总和，只有当这个总和超过了某个界线值时，才会输入1。这也称为“神经元被激活” 。这里将这个界线值称为阈值，用符号示意。

导入权重和偏置

为不便后续的计算，把感知机公式改为：

比照两个公式：尽管有符号不同，但表白的内容是完全相同的。b称为偏置，w 1 和w 2 称为权重。感知机会计算输出信号和权重的乘积，而后加上偏置，如果这个值大于0则输入1，否则输入0。

−命名为偏置b，然而请留神，偏置b和权重w 1 、w 2 的作用是不一样的。具体地说，w 1 和w 2 是管制输出信号的重要性的参数，而偏置是调整神经元被激活的容易水平（输入信号为1的水平）的参数。比方，若b为−0.1，则只有输出信号的加权总和超过0.1，神经元就会被激活。然而如果b为−20.0，则输出信号的加权总和必须超过20.0，神经元才会被激活。像这样，偏置的值决定了神经元被激活的容易水平。另外，这里咱们将w 1 和w 2 称为权重，将b称为偏置，然而依据上下文，有时也会将b、w 1 、w 2 这些参数统称为权重。

简略的逻辑电路

与门（AND gate）

  • 全真为真，其余为假
  • 全为1才是1，否则为0

感知机实现与门

公式的不同模式实现，后续以第二种数学公式为主

def AND(x1, x2):    w1, w2, theta = 0.5, 0.5, 0.7    tmp = x1*w1 + x2*w2    if tmp <= theta:        return 0    elif tmp > theta:        return 1    ================AND(0, 0) # 输入0AND(1, 0) # 输入0AND(0, 1) # 输入0AND(1, 1) # 输入1

def AND(x1, x2):    x = np.array([x1, x2])    w = np.array([0.5, 0.5])    b = -0.7    tmp = np.sum(w*x) + b    if tmp <= 0:        return 0    else:        return 1

与非门（NAND gate）

  • NAND：not and，和与门相同。
  • 全真为假，其余为真
  • 全为1则是0，否则为1

感知机实现与非门

def NAND(x1, x2):    x = np.array([x1, x2])    w = np.array([-0.5, -0.5])    b = 0.7    tmp = np.sum(w*x) + b    if tmp <= 0:        return 0    else:        return 1

或门（OR gate）

  • 有真为真，全假为假
  • 有1便是1，全0才是0

感知机实现或门

def OR(x1, x2):    x = np.array([x1, x2])    w = np.array([0.5, 0.5])    b = -0.2    tmp = np.sum(w*x) + b    if tmp <= 0:        return 0    else:        return 1

感知机的局限性

异或门

  • 一个真才是真，其余为假
  • 只有一个1才是1，其余为0

应用实现与、非与、或的感知机无奈实现异或

起因剖析

以或门为例，当权重参数(b, w 1 , w 2 ) = (−0.5, 1.0, 1.0)时，可满足或门的条件。此时，感知机可示意为：

剖析该分段函数，该直线把立体分为两个值为1或0的区域，直线下方为0，直线上方为1。

相似的，与门，非与门同样能够示意成相似图像。换言之，对于 与、非与、或 咱们能够应用一条直线把立体分为两个区域。这种由直线宰割而成的空间称为线性空间。

对于异或图像，想要用一条直线将图的○和△离开，无论如何都做不到。事实上，用一条直线是无奈将○和△离开的。

只能应用曲线把它们宰割开来

这样的曲线宰割而成的空间称为非线性空间。

如何实现异或门

  • 利用已有的门进行组合叠加即可实现异或门

门的符号：

异或门的实现：

from and_gate import ANDfrom or_gate import ORfrom nand_gate import NAND# y的代码def XOR(x1, x2):    s1 = NAND(x1, x2)    s2 = OR(x1, x2)    y = AND(s1, s2)    return y

多层感知机

比照与、非与、或的感知机

异或的感知机

图中的感知机总共由3层形成，然而因为领有权重的层本质上只有2层（第0层和第1层之间，第1层和第2层之间），所以称为“2层感知机”。不过，有的文献认为该图感知机是由3层形成的，因此将其称为“3层感知机”。

  • 第0层的两个神经元接管输出信号，并将信号发送至第1层的神经元。
  • 第1层的神经元将信号发送至第2层的神经元，第2层的神经元输入y。

这种2层感知机的运行过程能够比作流水线的组装作业。第1段（第1层）工人对传送过去的整机进行加工，实现后再传送给第2段（第2层）的工人。第2层的工人对第1层的工人传过来的整机进行加工，实现这个整机后出货（输入）。像这样，在异或门的感知机中，工人之间一直进行整机的传送。通过这样的构造（2层构造），感知机得以实现异或门。这能够解释为“单层感知机无奈示意的货色，通过减少一层就能够解决”。也就是说，通过叠加层（加深层），感知机能进行更加灵便的示意。

感知机的拓展

多层感知机能够实现比之前见到的电路更简单的电路。比方，进行加法运算的加法器也能够用感知机实现。此外，将二进制转换为十进制的编码器、满足某些条件就输入1的电路（用于等价测验的电路）等也能够用感知机示意。实际上，应用感知机甚至能够示意计算机！

内容小结

  • 感知机是具备输出和输入的算法。给定一个输出后，将输入一个既定的值。
  • 感知机将权重和偏置设定为参数。
  • 应用感知机能够示意与门和或门等逻辑电路。
  • 异或门无奈通过单层感知机来示意。
  • 应用2层感知机能够示意异或门。
  • 单层感知机只能示意线性空间，而多层感知机能够示意非线性空间。
  • 多层感知机（在实践上）能够示意计算机。