共计 2373 个字符，预计需要花费 6 分钟才能阅读完成。
🍔 卷积神经网是什么？
❤️深度学习中一种具备代表性的 网络结构.
📦咱们常常说，深度学习畛域中的人工神经网络，咱们该如何去解释它？
🍶人工神经网络，就是一种拟人化的称呼；咱们经常会见到神经网络层中存在着不同的层，
实际上也是咱们人为的“概念转化”，好比方说网络是什么，要各个网络结点形成才能够算是网络，咱们
只是把网络节点之间的彼此关系，转化到了“层”的概念上来，顺便，咱们也将“网络节点”，
转换成了“神经元”的概念。
🍨其实分层的目标很明确，是为了满足咱们特定的需要，所以对数据的加工须要层级化，便于咱们利用特定的函数进行更好的计算、加工、以及对数据的保护。
那咱们来通过一个简略的神经网络构造窥探初貌：
💛咱们来看这个简略的人工神经网络，每个小圆圈都代表一个节点，同样也是咱们所定义的神经元，神经元呈层级排列，每个层都有本人的特定个性能，层与层之间有着数据交互，各自性能却又不同，
经常第一层为输出层，最初一层为输入层，加在两头局部的为暗藏层.
🕋那么，到底什么是深度学习呢？
其实在咱们理解了最根本的神经网络构造当前，咱们不难看到，其实宏大的深度学习无非就是一种 多暗藏层的多感知器构造
神经元的层级关系，最简略的数据输入能够组合为一种感知器；而后，多个感知器叠合造成咱们的神经网络；最初，咱们将神经网络的暗藏层逐步复杂化，其实就是我所谓的深度学习的框架，即咱们能够失去：
- 多层感知器 —–> 神经网络
- 多暗藏层的多层感知器 ——->深度学习
🔑深度学习中的外围常识
前向运算
🌊一个是 前向运算 ，一个是 反向流传
前向运算是一种趁势而为的运算，怎么去了解呢？
☔️其实就是说从起始层一层一层来，第一层，输入层，第二层暗藏层，第三层，输入层
其实也就是咱们输出样本数据，失去咱们的输入值，这种趁势计算的过程便是前向运算。
咱们晓得了前向运算的大抵过程与方向，但咱们并不知道咱们应用前向运算的 前提
前提就是咱们须要晓得：
- 每个层的网络结构，例如这个层是卷积层还是池化层
- 咱们还须要晓得这个层（感知器）的 数据参数
好了，那么问题又来了，每个层的网络结构能够依照自定义的形式本人设定，那么每个层的数据参数是如何失去的呢？
📃这个时候就须要用到咱们的 反向流传 运算了；我的反向流传是 逆层性运算 ，就是咱们获取参数的过程，失去参数具体的值，依据咱们给定的样本和样本的 标签 ，利用 监督信息，用来学习并失去网络结构中定义好的外部参数
咱们来简略说一下监督学习的概念和类别：
- 有监督：存在原始样本数据信息，以及人工标注的样本标签
- 半监督：有一部分有标签，有一部分没有
- 无监督：没有样本标签
⚜️
🥔看到函数的方程式咱们就能够了解为什么咱们要失去每个层的 计算函数 和参数的值 （参数蕴含了权值和偏置项，也是咱们在 反向流传中须要计算的值）
反向流传（Backpropagation,BP）
🐝反向流传也就是咱们经常听到的 训练 的过程，实质还是一种逐层求参运算。
🦋咱们先搭建一个神经网络的骨架，人为的抉择特定的函数，决定它是池化还是卷积等等，而后再去利用 BP 算法进行每个层在特定业务的场景下，参数的确定
🐋一个残缺的神经网络，通常有两局部形成：网络结构 + 参数，咱们说失去参数，不如说咱们调节参数到最好的水平：训练的实质就是计算输入层后果与实在值之间的偏差来进行逐层调节参数，“其实很相似于咱们人体中的激素调节机制，一种反馈性的刺激调节” 更好的适应咱们的业务。
咱们如何进行参数的训练呢？
💁♂训练的前提是 网络结构已知，通常状况下，咱们利用成熟，现成的网络结构进行训练
🌵 参数的优化过程，实际上就是 梯度降落算法 的实现
🐮 参数是如何进行更新的呢？
- 参数优化函数
- 导师和学习率作为优化函数的闭模式解
- 通过对前向运算的形式化，咱们能够用 梯度降落算法 进行调参
📐梯度降落算法
🐤咱们临时能够简略的了解为：梯度降落算法能够算是 寻找最小值的过程
梯度降落算法
咱们先简略看看上面这几个概念
❄️沿着导数降落，进行参数更新
函数公式中的 a 就是咱们 学习率 ，学习率能够决定 咱们沿着最快的方向去调整多少步长
🌔 那么咱们应该如何去抉择适合的学习率呢？
步长要放弃尽快可能的枯燥，而不是让 loss 震荡；咱们能够在初始调参的时候，能够给一个较大的初始率，减速收敛速度；之后咱们在进行步长的调整，让咱们的学习率放弃微步枯燥
🚐 即便咱们应用梯度降落算法，也无奈保障咱们的解是最优的，为什么呢？能够看上面这张图：
咱们通常会认为最优解大概率呈现在 极值点两头 ，然而极值点的场合可能呈现在 部分区域上，会导致无奈找到最小的值，咱们成为“部分最优解”
💅 其实部分最优解问题始终是困扰学术界的难题，尤其是咱们针对于 非凸函数 ，咱们经常会“错失”最优解；不过我还是有对策去解决部分最优解这个问题，比方咱们能够退出 扰动因子 ，目标就是 冲出部分，让降落方向在不同的坡度上，减少寻优最正当值的概率。
常见的深度学习模型：
- 卷积神经网（CNN）
- 循环神经网（RNN）
- 自动编码机（Autoencoder）
- 深度信念网络（DBN，Deep Belif Network）
卷积神经网络
🐔 什么是卷积神经网？
🍅其实卷积神经网就是以 卷积构造 为主，搭建起来的 深度网络
例如将图片作为网络的输出（N、W、H、C），主动提取特色，并且对图片的变形（平移，旋转等）等具备 高度不变性 。（ 鲁棒 的意思就是 不敏感）
🌃 FC 层是全链接层，负责计算不同类别的概率，指标宰割（此图就是五维度的 Features）
卷积神经网中的重要组成单元
还有一个 FC 层，其中还会用到 dropout 层
卷积层
卷积层是干嘛的？
💃 其实就是对图像和滤波矩阵做 内积（_一一元素相乘再求和_）的操作，其中包含：
- 滤波器
- 每一种卷积对应一种特色
- Im2col 实现卷积运算
👿 其中滤波矩阵就是咱们常说的 卷积核，非常重要的概念，咱们能够将卷积了解为滤波器，比方有均值滤波器
卷积具体运算图解
卷积中的卷积核
奇数卷积核存在中心点，能够绝对应