关于人工智能:技术博客对抗性域适应

56次阅读

共计 4659 个字符,预计需要花费 12 分钟才能阅读完成。

域适应简介

域适应是迁徙学习中最常见的问题之一,域不同但工作雷同,且源域数据有标签,指标域数据没有标签或者很少数据有标签。
域适应通过将源域和指标域的特色投影到类似的特色空间,这样就能够拿源域的分类器对指标域进行分类了

上面拿二分类做阐明,如下图:

图中红圈是源域,蓝圈是指标域,圆圈和叉是不同特色的数据,源域的分类器将源域的数据分为两类,即虚线所示。
此时如果拿源域的分类器在指标域上分类,从图中能够看到,成果很差。
 
那怎么办呢,有一种办法就是把源域和指标域的散布对齐,如图片左边所示,源域指标域的散布类似(即类似特色的数据分布在相近的地位),这样就能够间接拿源域的分类器对指标域进行分类了。

训练过程域反抗生成网络 GAN 类似
同时训练两个模型:一个用来提取指标域特色 MT,和一个用来判断特色来自源域还是指标域的域分别器 D,MT 的训练过程是最大化 D 产生谬误的过程,即 MT 提取的特色让 D 分辨不进去是来自源域还是指标域。

指标域特征提取器 MT 和域判断器 D 互为对手:D 学习去判断特色是来自源域还是指标域,MT 学习让本人提取的特色更靠近源域提取出的特色。指标域特征提取器 MT 能够被认为是一个伪造团队,试图产生假货并在不被发现的状况下应用它,而域判断器 D 相似于警察,试图检测假币。在这个游戏中的竞争驱使两个团队改良他们的办法,直到真假难分为止。

对抗性域适应

数据的选取

为了成果好,训练简略,我选取 mnist 数据集中 0、1 的数据作为源域,2、3 的数据作为指标域。源域和指标域的数据各 10000 个。
在训练时,源域可取得数据和标签,而指标域只能取得数据,没有标签,来模仿域适应的背景。指标域的标签仅在测试精度时应用。

网络

1. 源域特征提取器 MS、指标域特征提取器 MT。所谓特征提取器,实际上就是将辨认 mnist 的网络去掉最初一层分类层。

        (encoder): Sequential ((0): Conv2d(1, 32, kernel_size=(5, 5), stride=(1, 1))
    (1): MaxPool2d (size=(2, 2), stride=(2, 2), dilation=(1, 1))
    (2): ReLU ()
    (3): Conv2d(32, 64, kernel_size=(5, 5), stride=(1, 1))
    (4): MaxPool2d (size=(2, 2), stride=(2, 2), dilation=(1, 1))
    (5): ReLU ())
    (fc1): Linear (64 * 4 * 4 -> 512)

把这个网络的输入看作是提取出的特色

2. 分类器 C。理论就是辨认 mnist 的网络最初一层分类层,一个简略的全连贯网络。

        Classifier ((fc2): Linear (512 -> 2)
    )

3. 域识别器 D。依据特征提取器的输入来判断数据来自源域还是指标域,输入 0 代表来自源域,输入 1 代表来自指标域。

        Discriminator ((layer): Sequential ((0): Linear (512 -> 512)
    (1): Linear (512 -> 512)
    (2): Linear (512 -> 2)
    ))

 

训练过程

训练 MS、C

首先,在源域上训练特征提取器 MS 和分类器 C

训练过程和个别训练过程类似,只不过把整个网络分成了两局部来训练、优化。

def train_MS_C(loader_ms):
    # 模型
    MS = Encoder()
    C = Classifier()
    # 优化器
    o_ms = optim.SGD(MS.parameters(), lr=0.03)
    o_c = optim.SGD(C.parameters(), lr=0.03)
    criterion = nn.CrossEntropyLoss()  # 计算损失
    for j in range(1):
        print(j)
        # 训练
        for i, (images, labels) in enumerate(loader_ms):
            o_ms.zero_grad()
            o_c.zero_grad()
            outputs_mid = MS(images)
            outputs = C(outputs_mid)

            loss = criterion(outputs, labels)
            loss.backward()

            o_ms.step()  # 优化参数
            o_c.step()

            if i % 100 == 0:
                print(i)
                print('current loss : %.5f' % loss.data.item())
    # 保留模型
    np.save(params.MS_save_dir, MS.get_w())
    np.save(params.C_save_dir, C.get_w())

训练实现后,在源域的精确度为 0.9985
如果间接拿源域的特征提取器和分类器对指标域进行分类的话,精确度只有 0.5840

固定 MS 和 C,训练 MT 和 D

接着,固定 MS 和 C 不变,即不扭转它们的网络权重,在源域和指标域上反抗式学习指标域特征提取器 MT 和域识别器 D
1. 用 MS 初始化 MT,这样开始指标域会取得一个不错的精度 0.5840,接着在这个根底上训练,更容易收敛到好的方向,并且收敛过程也快了。

MT.update_w(np.load(params.MS_save_dir, encoding='bytes', allow_pickle=True).item())

def train_MT_D(loader_ms, loader_mt):
    # 模型
    MS = Encoder()
    MT = Encoder()
    D = Discriminator()
    # 加载模型
    MS.update_w(np.load(params.MS_save_dir, encoding='bytes', allow_pickle=True).item())

    if params.first_train:
        params.first_train = False
        # 第一次训练
        # MT 用 MS 的权重初始化
        MT.update_w(np.load(params.MS_save_dir, encoding='bytes', allow_pickle=True).item())
    else:
        MT.update_w(np.load(params.MT_save_dir, encoding='bytes', allow_pickle=True).item())
        D.update_w(np.load(params.D_save_dir, encoding='bytes', allow_pickle=True).item())

    # 优化器
    o_mt = optim.SGD(MT.parameters(), lr=0.00001)
    o_d = optim.SGD(D.parameters(), lr=0.00001)
    criterion = nn.CrossEntropyLoss()  # 计算损失
    # 训练
    for j in range(1):
        print(j)
        # 训练 D 域分别器
        data_zip = zip(loader_ms, loader_mt)
        for i, ((images_s, labels_s), (images_t, labels_t)) in enumerate(data_zip):
            ################ 对域分别器 D 的训练
            # 提取的特色
            f_s = MS(images_s)
            f_t = MT(images_t)
            f_cat = torch.cat((f_s, f_t), 0)
            # 域分别器分别后果
            out_D = D(f_cat.detach())

            predicts_D = torch.max(out_D.data, 1)[1]
            if i == 0:
                print('域分别器的分别后果')
                print(predicts_D)

            # 结构损失比照用的标签
            len_s = len(labels_s)
            len_t = len(labels_t)

            temp1 = torch.zeros(len_s)
            temp2 = torch.ones(len_t)

            lab_D = torch.cat((temp1, temp2), 0).long()

            # 梯度置 0
            o_d.zero_grad()
            # 计算 loss
            loss_D = criterion(out_D, lab_D)
            # 反向流传
            loss_D.backward()
            # 优化网络
            o_d.step()
            ############################## 对指标域特征提取器 MT 的训练
            # 提取的特色
            f_t = MT(images_t)
            # 域分别器分别后果
            d_t = D(f_t)
            # 结构计算损失的 outputs、labels
            out_MT = d_t

            predicts_MT = torch.max(out_MT.data, 1)[1]

            lab_MT = torch.zeros(len_t).long()
            # 梯度置 0
            o_mt.zero_grad()
            # 计算 loss
            loss_MT = criterion(out_MT, lab_MT)
            # 反向流传
            loss_MT.backward()
            # 优化网络
            o_mt.step()

            if i % 100 == 0:
                print(i)
                print('current loss_D : %.5f' % loss_D.data.item())
                print('current loss_MT : %.5f' % loss_MT.data.item())
    # 保留模型
    np.save(params.MT_save_dir, MT.get_w())
    np.save(params.D_save_dir, D.get_w())

用 MT 和 C 在指标域上分类

最初用训练好的指标域特征提取器 MT 和分类器 C 来在指标域上分类

def test_MT_C(loader_mt):
    MT = Encoder()
    C = Classifier()
    # 加载模型
    MT.update_w(np.load(params.MT_save_dir, encoding='bytes', allow_pickle=True).item())
    C.update_w(np.load(params.C_save_dir, encoding='bytes', allow_pickle=True).item())
    correct = 0
    for images, labels in loader_mt:
        outputs_mid = MT(images)
        outputs = C(outputs_mid)
        _, predicts = torch.max(outputs.data, 1)
        correct += (predicts == labels).sum()
    total = len(loader_mt.dataset)
    print('MT+C  Accuracy: %.4f' % (1.0 * correct / total))

试验后果

拿源域的特征提取器和分类器对指标域进行分类的话,精确度只有 0.5840

下图是域分别器 D 的后果,前半部分的输出是源域的特色,后半局部的输出是指标域的特色,当初 D 大部分都能判断正确。

训练几轮后,精确度回升了一点

D 对域的分辨能力降落了,大部分指标域的输出都判断为源域的。

在训练 40 轮后,精确度在 0.9 左近稳定,与开始的 0.5840 相比,精确度晋升了很多

D 无奈分辨源域和指标域了,将所有输出都辨认为源域的。

代码地址

https://momodel.cn/explore/5f1574360a2fac574eb9c3f6?type=app
 

参考

Adversarial Discriminative Domain Adaptation
https://blog.csdn.net/sinat_29381299/article/details/73504196
https://github.com/corenel/pytorch-adda

正文完
 0