Caltech 256 是什么？
Caltech 256 数据集是加利福尼亚理工学院收集整理的数据集，该数据集选自 Google Image 数据集，并手工去除了不符合其类别的图片。在该数据集中，图片被分为 256 类，每个类别的图片超过 80 张。
为什么要用 Densenet121 模型？
本项目使用在 PyTorch 框架下搭建的神经网络来完成图片分类的任务。由于网络输出的类别数量很大，简单的网络模型无法达到很好的分类效果，因此，本项目使用了预训练的 Densenet121 模型，并仅训练全连接层的参数。
项目流程：1. 数据处理 2.Densenet 模型解读 3. 加载预训练网络模型 4. 训练神经网络
1、数据处理
首先从指定路径读取图像，将图像大小更改为 224*224，并将图片范围从 0 -255 改为 0 -1：
from PIL import Image
image= Image.open(path)
image=image.resize((224,224))
x_data= x_data.astype(numpy.float32)
x_data= numpy.multiply(x_data, 1.0/255.0)
## scale to [0,1] from [0,255]
由于此数据集中有少量图片的色彩是单通道的，而神经网络的输入需要为三个通道，因此，将该通道的数据复制到三个通道上：
if len(x_data.shape)!=3:
temp=numpy.zeros
((x_data.shape[0],x_data.shape[1],3))
temp[:,:,0] = x_data
temp[:,:,1] = x_data
temp[:,:,2] = x_data
x_data= temp
x_data=numpy.transpose(x_data,(2,0,1))
## reshape
在上述步骤之后，对图片进行白化，即让像素点的平均值为 0，方差为 1。这样做是为了减小图片的范围，使得图片的特征更易于学习。白化的过程如下所示：
if x_train is not None:
x_train[:,0,:,:] = (x_train[:,0,:,:]-0.485)/0.229
x_train[:,1,:,:] = (x_train[:,1,:,:]-0.456)/0.224
x_train[:,2,:,:] = (x_train[:,2,:,:]-0.406)/0.225
if x_test is not None:
x_test[:,0,:,:] = (x_test[:,0,:,:] -0.485) /0.229
x_test[:,1,:,:] = (x_test[:,1,:,:] -0.456) /0.224
x_test[:,2,:,:] = (x_test[:,2,:,:] -0.406) /0.225
2、DenseNet 模型解读
DenseNet 的网络结构如下图所示。在传统的 CNN 中，每个卷积层只与其相邻的卷积层相连接，这就造成了位于网络浅层的参数在反向传播中获取的梯度非常小，也就是梯度消失问题。
DenseNet 设计了名为 Dense Block 的特殊的网络结构，在一个 Dense Block 中，每个层的输入为前面所有层的输出，这也正是 Dense 的含义。通过这种方法，在反向传播中，网络浅层的参数可以从后面所有层中获得梯度，在很大程度上减弱了梯度消失的问题。值得注意的是，每个层只与同位于一个 Dense Block 中的多个层有连接，而与 Dense Block 外的层是没有连接的。
3、加载预训练网络模型
torchvision 是服务于 PyTorch 框架的，用于进行图片处理和生成一些主流模型的库。使用该库可以方便的加载 PyTorch 的预训练模型。首先使用 pip 安装 torchvision 库：
pip install torchvision
创建 densenet121 模型实例，并加载预训练参数：
cnn = torchvision.models.densenet121
(pretrained = True)
#pretrained =True 即为加载预训练参数，默认不加载。
冻结所有模型参数，使其值在反向传播中不改变：
for param in cnn.parameters():
param.requires_grad= False
改变模型全连接层输出的个数为 256：
num_features= cnn.classifier.in_features
cnn.classifier= nn.Linear(num_features, 256)
此处不需要担心新建的全连接层参数会被冻结，因为新建的层参数是默认获取梯度的。
4、训练神经网络
损失函数选择 CrossEntropy，优化器选择 Adam：
optimizer= Adam(cnn.parameters(), lr=0.001, betas=(0.9, 0.999)) # 选用 AdamOptimizer
loss_fn= nn.CrossEntropyLoss() # 定义损失函数
下面是完整的训练过程：
# 训练并评估模型
data= Dataset()
model= Model(data)
best_accuracy= 0
foriinrange(args.EPOCHS):
cnn.train()
x_train, y_train, x_test, y_test= data.next_batch(args.BATCH) # 读取数据
x_train= torch.from_numpy(x_train)
y_train= torch.from_numpy(y_train)
x_train= x_train.float()
x_test= torch.from_numpy(x_test)
y_test= torch.from_numpy(y_test)
x_test= x_test.float()
ifcuda_avail:
x_train= Variable(x_train.cuda())
y_train= Variable(y_train.cuda())
x_test= Variable(x_test.cuda())
y_test= Variable(y_test.cuda())
outputs= cnn(x_train)
_, prediction= torch.max(outputs.data, 1)
optimizer.zero_grad()
# calculate the loss according to labels
loss= loss_fn(outputs, y_train)
# backward transmit loss
loss.backward()
# adjust parameters using Adam
optimizer.step()
# 若测试准确率高于当前最高准确率，则保存模型
train_accuracy= eval(model, x_test, y_test)
iftrain_accuracy>best_accuracy:
best_accuracy= train_accuracy
model.save_model(cnn, MODEL_PATH, overwrite=True)
print(“step %d, best accuracy %g”%(i, best_accuracy))
print(str(i) +”/”+str(args.EPOCHS))
总结：
本文主要讲解了 DenseNet 的网络结构，以及在 PyTorch 框架下如何加载预训练模型并进行 fine-tuning。为了在数据集上获得更高的准确率，读者可尝试取消冻结参数的设置，使得卷积层也参与训练。
获取相关项目代码 请访问：https://www.flyai.com/d/Calte…
— END —