深度学习进阶篇[8]：反抗神经网络GAN基本概念简介、纳什平衡、生成器判断器、解码编码器详解以及GAN利用场景

反抗神经网络GAN基本概念简介：generative adversarial network

1.博弈论

博弈论能够被认为是两个或多个感性的代理人或玩家之间相互作用的模型。

感性这个关键字，因为它是博弈论的根底。咱们能够简略地把感性称为一种了解，即每个行为人都晓得所有其余行为人都和他/她一样感性，领有雷同的了解和常识程度。同时，感性指的是，思考到其余行为人的行为，行为人总是偏向于更高的报酬/回报。

既然咱们曾经晓得了感性意味着什么，让咱们来看看与博弈论相干的其余一些关键词:

  • 游戏:一般来说，游戏是由一组玩家，口头/策略和最终收益组成。例如:拍卖、象棋、政治等。
  • 玩家:玩家是参加任何游戏的感性实体。例如:在拍卖会的投标人、石头剪刀布的玩家、加入选举的政治家等。
  • 收益:收益是所有玩家在取得特定后果时所取得的处分。它能够是正的，也能够是负的。正如咱们之前所探讨的，每个代理都是自私的，并且想要最大化他们的收益。

2.纳什平衡

纳什平衡（或者纳什均衡），Nash equilibrium ，又称为非单干博弈平衡，是人工智能博弈论办法的“基石”。

所谓纳什平衡，指的是参与者的一种策略组合，在该策略上，任何参加人独自扭转策略都不会失去益处，即每个人的策略都是对其他人的策略的最优反馈。换句话说，如果在一个策略组合上，当所有其他人都不扭转策略时，没有人会扭转本人的策略，则该策略组合就是一个纳什平衡。

经典的例子就是囚徒窘境：

背景：一个案子的两个嫌疑犯A和B被警官离开审判，所以A和B没有机会进行串供的；

奖惩：警官别离通知A和B，如果都不招供，则各判3年；如果两人均招供，均判5年；如果你招供、而对方不招供，则你判1年，对方10年。

后果：A和B都抉择招供，各判5年，这个便是此时的纳什平衡。

从奖惩阐明看都不招供才是最优解，判刑起码。其实并不是这样，A和B无奈沟通，于是从各自的利益角度登程：

嫌疑犯A想法：

  • 如果B招供，如果我招供只判5年，不招供的话就判10年；
  • 如果B不招供，如果我招供只判1年，不招供的话就判3年；

所以无论B是否招供，A只有招供了，对A而言是最优的策略。

同上，嫌疑犯B想法也是雷同的，都根据各自的感性而抉择招供，这种状况就被称为纳什均衡点。

3.GAN生成器的输出为什么是噪声

GAN生成器Generator的输出是随机噪声，目标是每次生成不同的图片。但如果齐全随机，就不晓得生成的图像有什么特色，后果就会不可控，因而通常从一个先验的随机散布产生噪声。罕用的随机散布：

  • 高斯分布：连续变量中最宽泛应用的概率分布；
  • 均匀分布：连续变量x的一种简略散布。

引入随机噪声使得生成的图片具备多样性，比方下图不同的噪声z能够产生不同的数字：

4.生成器Generator

生成器G是一个生成图片的网络，能够采纳多层感知机、卷积网络、自编码器等。它接管一个随机的噪声z，通过这个噪声生成图片，记做G(z)。通过下图模型构造解说生成器如何一步步将噪声生成一张图片：

1）输出：100维的向量；

2）通过两个全连贯层Fc1和Fc2、一个Resize，将噪声向量放大，失去128个7*7大小的特色图；

3）进行上采样，以扩充特色图，失去128个14*14大小的特色图；

4）通过第一个卷积Conv1，失去64个14*14的特色图；

5）进行上采样，以扩充特色图，失去64个28*28大小的特色图；

6）通过第二个卷积Conv2，将输出的噪声Z逐步转化为12828的单通道图片输入，失去生成的手写数字。

Tips：全连贯层作用：维度变换，变为高维，不便将噪声向量放大。因为全连贯层计算量稍大，后序改良的GAN移除全连贯层。

Tips：最初一层激活函数通常应用tanh()：既起到激活作用，又起到归一作用，将生成器的输入归一化至[-1,1]，作为判断器的输出。也使GAN的训练更稳固，收敛速度更快，生成品质的确更高。

5.判断器Discriminator

判断器D的输出为实在图像和生成器生成的图像，其目标是将生成的图像从实在图像中尽可能的分辨进去。属于二分类问题，通过下图模型构造解说判断器如何辨别虚实图片：

  • 输出：单通道图像，尺寸为28*28像素(非固定值，依据理论状况批改即可)。
  • 输入：二分类，样本是真或假。

1）输出：28281像素的图像；

2）通过第一个卷积conv1，失去64个2626的特色图，而后进行最大池化pool1，失去64个1313的特色图；

3）通过第二个卷积conv2，失去128个1111的特色图，而后进行最大池化pool2，失去128个55的特色图；

4）通过Resize将多维输出一维化；

5）再通过两个全连贯层fc1和fc2，失去原始图像的向量表白；

6）最初通过Sigmoid激活函数，输入判断概率，即图片是真是假的二分类后果。

6.GAN损失函数

在训练过程中，生成器G（Generator）的指标就是尽量生成实在的图片去坑骗判断器D（Discriminator）。而D的指标就是尽量把G生成的图片和实在的图片辨别开。这样，G和D形成了一个动静的“博弈过程”。

最初博弈的后果是什么？在最现实的状态下，G能够生成足以“以假乱真”的图片G(z)。对于D来说，它难以断定G生成的图片到底是不是实在的，因而D(G(z)) = 0.5。

用公式示意如下：

$$\begin{equation} \mathop{min}\limits_{G}\mathop{max}\limits_{D}V(D,G) = _{x\sim p_{data}(x)} \left[\log D\left(x\right)\right]+_{z\sim p_{z}(z)}\left[\log \left(1 - D\left(G\left(z\right)\right)\right)\right]\end{equation} \tag{1}$$

公式右边V(D,G)示意生成图像和实在图像的差别度，采纳二分类(真、假两个类别)的穿插熵损失函数。蕴含minG和maxD两局部：

$\mathop{max}\limits_{D}V(D,G)$示意固定生成器G训练判断器D，通过最大化穿插熵损失V(D,G)来更新判断器D的参数。D的训练指标是正确区分实在图片x和生成图片G(z)，D的鉴别能力越强，D(x)应该越大，左边第一项更大，D(G(x))应该越小，左边第二项更大。这时V(D,G)会变大，因而式子对于D来说是求最大(maxD)。

$\mathop{min}\limits_{G}\mathop{max}\limits_{D}V(D,G)$示意固定判断器D训练生成器G，生成器要在判断器最大化真、假图片穿插熵损失V(D,G)的状况下，最小化这个穿插熵损失。此时左边只有第二项有用， G心愿本人生成的图片“越靠近实在越好”，可能坑骗判断器，即D(G(z))尽可能得大，这时V(D, G)会变小。因而式子对于G来说是求最小(min_G)。

  • $$x\sim p_{data}(x)$$：示意实在图像；
  • $z\sim p_{z}(z)$：示意高斯分布的样本，即噪声；
  • D(x)代表x为实在图片的概率，如果为1，就代表100%是实在的图片，而输入为0，就代表不可能是实在的图片。

等式的左边其实就是将等式右边的穿插商损失公式开展，并写成概率分布的冀望模式。具体的推导请参见原论文Generative Adversarial Nets。

7.模型训练

GAN蕴含生成器G和判断器D两个网络，那么咱们如何训练两个网络？

训练时先训练鉴别器D 将实在图片打上真标签1和生成器G生成的假图片打上假标签0，一起组成batch送入判断器D，对判断器进行训练。计算loss时使判断器对实在图像输出的判断趋近于真，对生成的假图片的判断趋近于假。此过程中只更新判断器的参数，不更新生成器的参数。

而后再训练生成器G 将高斯分布的噪声z送入生成器G，将生成的假图片打上真标签1送入判断器D。计算loss时使判断器对生成的假图片的判断趋近于真。此过程中只更新生成器的参数，不更新判断器的参数。

留神：训练初期，当G的生成成果很差时，D会以高置信度来回绝生成样本，因为它们与训练数据显著不同。因而，log(1−D(G(z)))饱和（即为常数，梯度为0）。因而咱们抉择最大化logD(G(z))而不是最小化log(1−D(G(z)))来训练G，和公示(1)左边第二项比拟。

8模型训练不稳固

GAN训练不稳固的起因如下：

  • 不收敛：很难使两个模型G和D同时收敛；
  • 模式解体：生成器G生成单个或无限模式；
  • 慢速训练：生成器G的梯度隐没。

训练GAN的时候，能够采取以下训练技巧：

1）生成器最初一层的激活函数用tanh()，输入归一化至[-1, 1]；

2）实在图像也归一化到[-1,1]之间；

3）学习率不要设置太大，初始1e-4能够参考，另外能够随着训练进行一直放大学习率；

4）优化器尽量抉择Adam，因为SGD解决的是一个寻找最小值的问题，GAN是一个博弈问题，应用SGD容易震荡；

5）防止应用ReLU和MaxPool，缩小稠密梯度的可能性，能够应用Leak Re LU激活函数，下采样能够用Average Pooling或者Convolution + stride代替。上采样能够用PixelShuffle, ConvTranspose2d + stride；

6）加噪声：在实在图像和生成图像中增加噪声，减少鉴别器训练难度，有利于晋升稳定性；

7）如果有标签数据，尽量应用标签信息来训练；

8）标签平滑：如果实在图像的标签设置为1，咱们将它更改为一个较低的值，比方0.9，防止鉴别器对其分类过于自信 。

9.编码器Encoder

Encoder指标是将输出序列编码成低维的向量示意或embedding，映射函数如下：

$$\begin{equation}V\to R^{d}\end{equation} \tag{1}$$

行将输出V映射成embedding $z_i\in R^{d}$，如下图所示：

Encoder个别是卷积神经网络，次要由卷积层，池化层和BatchNormalization层组成。卷积层负责获取图像局域特色，池化层对图像进行下采样并且将尺度不变特色传送到下一层，而BN次要对训练图像的散布归一化，减速学习。（Encoder网络结构不局限于卷积神经网络）

以人脸编码为例，Encoder将人脸图像压缩到短向量，这样短向量就蕴含了人脸图像的次要信息，例如该向量的元素可能示意人脸肤色、眉毛地位、眼睛大小等等。编码器学习不同人脸，那么它就能学习到人脸的共性：

10.解码器Decoder

Decoder指标是利用Encoder输入的embedding，来解码对于图的构造信息。

输出是Node Pair的embeddings，输入是一个实数，掂量了这两个Node在中的相似性，映射关系如下：

$$\begin{equation}R^{d} * R^{d}\to R^{+}\end{equation}. \tag{1}$$

Decoder对放大后的特色图像向量进行上采样，而后对上采样后的图像进行卷积解决，目标是欠缺物体的几何形态，补救Encoder当中池化层将物体放大造成的细节损失。

以人脸编码、解码为例，Encoder对人脸进行编码之后，再用解码器Decoder学习人脸的个性，即由短向量复原到人脸图像，如下图所示：

11.GAN利用

一起来看看GAN有哪些乏味的利用：

  • 图像生成

    图像生成是生成模型的根本问题，GAN绝对先前的生成模型可能生成更高图像品质的图像。如生成真切的人脸图像

  • 超分辨率

    将图像放大时，图片会变得含糊。应用GAN将32*32的图像扩大为64*64的实在图像，放大图像的同时晋升图片的分辨率。

  • 图像修复

    将完好的图像补全、也能够用于去除纹身、电视logo、水印等。

  • 图像到图像的转换

    依据一幅图像生成生成另一幅格调不同图像，比方马变成斑马图、航拍地图变成地图

  • 风光动漫化

    将风景图转化为动漫成果

  • 漫画脸

    将人脸图生成卡通格调

  • 图像上色

    黑白影像上色

  • 文本转图像

    依据文字描述生成对应图像

GAN的利用罕用十分宽泛，远远不止上述几种。