共计 14585 个字符，预计需要花费 37 分钟才能阅读完成。
【摘要】 本文主要通过两个实际应用案例：一是基于本地 Jupyter Notebook 的 MNIST 手写数据识别；二是基于华为云服务器的 CIFAR-10 图像分类，对开源框架 MindSpore 进行介绍。
犹记得今年的华为开发者大会 HDC 2020 上，一直受人瞩目的深度学习框架 MindSpore 终于开源了。
我之前一直关注 MindSpore，还是挺期待的。MindSpore 是一款支持端、边、云独立 / 协同的统一训练和推理框架。与 TensorFlow、PyTorch 等流行深度学习框架对标，MindSpore 旨在大幅度降低 AI 应用开发门槛，让人工智能无处不在。
MindSpore 最大的特点就是开发门槛大大降低，提高开发效率，这样可以显著减少模型开发时间。
因此，使用 MindSpore 的优势可以总结为以下四点：
●简单的开发体验
●灵活的调试模式
●充分发挥硬件潜能
●全场景快速部署
既然开源了，那就赶紧上手，试一试这款开源的 MindSpore 怎么样！本文我将介绍 MindSpore 的安装和上手教程，通过一个简单的图像识别案例来跑完整个 AI 训练和测试流程。
一、MindSpore 的安装
开源框架 MindSpore 的安装方法有很多，可以在 Windows、Ubuntu 上安装，也可以在华为 Ascend 910 上安装。各种详尽的安装方法请见下面的链接：
https://www.mindspore.cn/install
下面介绍两种最简单的安装方法！
1. Docker 安装
Docker 安装最为简单，可参考：
https://gitee.com/mindspore/m…
以 0.3.0-alpha 版本为例：
- CPU:
docker pull mindspore/mindspore-cpu:0.3.0-alpha
- GPU:
docker pull mindspore/mindspore-gpu:0.3.0-alpha
安装好后，可以看到安装的镜像，并使用下面的命令创建一个你的容器：
docker run -it mindspore/mindspore-cpu:0.3.0-alpha /bin/bash2. Win10+Anaconda+MindSpore
使用 Win10 +Anaconda+MindSpore 的方式进行安装也非常简单，本文将采用这种方式安装 MindSpore。
在 MindSpore 安装首页里，选择安装相关配置：
- 版本：0.3.0-alpha
- 硬件平台：CPU
- 操作系统：Windows-64
- 编程语言：Python 3.7.5
首先，在 Win10 上安装 Anaconda，Anaconda 是一个开源的 Python 发行版本，其包含了 conda、Python 等 180 多个科学包及其依赖项。
然后，创建一个虚拟环境。
1). 打开 Anaconda 组件中的 Anaconda Prompt 终端：
2). 使用下面的命令，创建一个虚拟环境 mindspore（名字可以自定义），并进入虚拟环境：
conda create -n mindspore python=3.7.5
conda activate mindspore3). 安装依赖库，根据 https://gitee.com/mindspore/m… 列出的依赖库，使用 conda 命令安装。例如：
conda install numpy4). 根据之前选择的相关配置，在网站：https://www.mindspore.cn/vers… 中选择所要相应的 MindSpore 版本：
mindspore-0.3.0-cp37-cp37m-win_amd64.whl
可以将.whl 文件下载到本地，使用 pip 安装（使用 conda 命令在线安装速度可能比较慢，因此可以选择将.whl 文件下载到本地，使用 pip 命令安装）：
pip install mindspore-0.3.0-cp37-cp37m-win\_amd64.whl最后测试是否安装成功，进入 Python shell，执行如下命令，如果没有提示 No module named ‘mindspore’ 等加载错误的信息，则说明安装成功。
至此，安装完成！
二、基于本地 Jupyter 实现 MNIST 手写数据集分类
1. 安装 Jupyter Notebook
首先，在虚拟环境 mindspore 中安装 Jupyter Notebook。方法是：打开 Anaconda 组件 Anaconda Navigator。
在 Anaconda Navigator 中，Application on 选择刚建立的虚拟环境 mindspore，在组件 Jupyter Notebook 下点击 install，安装。安装完成后如下图：
点击 Notebook 下的 Launch，即可打开 Jupyter Notebook。
2. 下载数据集
MNIST 手写数据集想必大家都很熟悉了，包含 0-9 的数字，由 60000 张训练图片和 10000 张测试图片组成。
MNIST 数据集下载页面：
http://yann.lecun.com/exdb/mn…
使用 MindSpore，我们可以通过直接定义一个 download_dataset 函数来自动下载 MNIST 数据集：
def download\_dataset():
"""Download the dataset from http://yann.lecun.com/exdb/mnist/."""
print("\*\*\*\*\*\*Downloading the MNIST dataset\*\*\*\*\*\*")
train\_path = "./MNIST\_Data/train/"
test\_path = "./MNIST\_Data/test/"
train\_path\_check = os.path.exists(train\_path)
test\_path\_check = os.path.exists(test\_path)
if train\_path\_check == False and test\_path\_check ==False:
os.makedirs(train\_path)
os.makedirs(test\_path)
train\_url = {"http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz", "http://yann.lecun.com/exdb/mnist/train-labels-idx1-ubyte.gz"}
test\_url = {"http://yann.lecun.com/exdb/mnist/t10k-images-idx3-ubyte.gz", "http://yann.lecun.com/exdb/mnist/t10k-labels-idx1-ubyte.gz"}
for url in train\_url:
url\_parse = urlparse(url)
# split the file name from url
file\_name = os.path.join(train\_path,url\_parse.path.split('/')\[-1\])
if not os.path.exists(file\_name.replace('.gz','')):
file = urllib.request.urlretrieve(url, file\_name)
unzipfile(file\_name)
os.remove(file\_name)
for url in test\_url:
url\_parse = urlparse(url)
# split the file name from url
file\_name = os.path.join(test\_path,url\_parse.path.split('/')\[-1\])
if not os.path.exists(file\_name.replace('.gz','')):
file = urllib.request.urlretrieve(url, file\_name)
unzipfile(file\_name)
os.remove(file\_name)
该函数实现将数据集自动下载在本地的 ./MNIST_Data 目录下，训练集放在子目录 /train 下，测试集放在子目录 /test 下。
3. 数据预处理
MNIST 数据集准备好了之后，下一步就要对数据集进行一些预处理，包括图片尺寸调整为 32×32（因为我们使用的是 LeNet-5 网络，后面会介绍），像素归一化、batch_size 设为 32（可调整），等等。
MindSpore 提供了 mindspore.dataset.MnistDataset 来直接定义 Minist 数据集，非常方便。使用 mindspore.dataset.MnistDataset.map 映射函数，将数据操作应用到数据集。
我们定义 create_dataset() 函数来创建数据集：
def create\_dataset(data\_path, batch\_size=32, repeat\_size=1,
num\_parallel\_workers=1):
""" create dataset for train or test
Args:
data\_path: Data path
batch\_size: The number of data records in each group
repeat\_size: The number of replicated data records
num\_parallel\_workers: The number of parallel workers
"""
# define dataset
mnist\_ds = ds.MnistDataset(data\_path)
# define operation parameters
resize\_height, resize\_width = 32, 32
rescale = 1.0 / 255.0
shift = 0.0
rescale\_nml = 1 / 0.3081
shift\_nml = -1 \* 0.1307 / 0.3081
# define map operations
resize\_op = CV.Resize((resize\_height, resize\_width), interpolation=Inter.LINEAR) # Resize images to (32, 32)
rescale\_nml\_op = CV.Rescale(rescale\_nml, shift\_nml) # normalize images
rescale\_op = CV.Rescale(rescale, shift) # rescale images
hwc2chw\_op = CV.HWC2CHW() # change shape from (height, width, channel) to (channel, height, width) to fit network.
type\_cast\_op = C.TypeCast(mstype.int32) # change data type of label to int32 to fit network
# apply map operations on images
mnist\_ds = mnist\_ds.map(input\_columns="label", operations=type\_cast\_op, num\_parallel\_workers=num\_parallel\_workers)
mnist\_ds = mnist\_ds.map(input\_columns="image", operations=resize\_op, num\_parallel\_workers=num\_parallel\_workers)
mnist\_ds = mnist\_ds.map(input\_columns="image", operations=rescale\_op, num\_parallel\_workers=num\_parallel\_workers)
mnist\_ds = mnist\_ds.map(input\_columns="image", operations=rescale\_nml\_op, num\_parallel\_workers=num\_parallel\_workers)
mnist\_ds = mnist\_ds.map(input\_columns="image", operations=hwc2chw\_op, num\_parallel\_workers=num\_parallel\_workers)
# apply DatasetOps
buffer\_size = 10000
mnist\_ds = mnist\_ds.shuffle(buffer\_size=buffer\_size) # 10000 as in LeNet train script
mnist\_ds = mnist\_ds.batch(batch\_size, drop\_remainder=True)
mnist\_ds = mnist\_ds.repeat(repeat\_size)
return mnist\_ds通过上面的函数，就完成了对刚下载的 MNIST 数据集的预处理。
4. 定义网络
LeNet-5 是一种用于手写体字符识别的非常高效的卷积神经网络。LeNet-5 共有 7 层，不包含输入，每层都包含可训练参数；每个层有多个 Feature Map，每个 FeatureMap 通过一种卷积滤波器提取输入的一种特征。
1) 模型初始化
使用 mindspore.common.initializer.TruncatedNormal 方法对参数进行初始化，定义 conv 和 fc_with_initialize 分别对卷积层和全连接层进行初始化。
import mindspore.nn as nnfrom mindspore.common.initializer import TruncatedNormal
def conv(in\_channels, out\_channels, kernel\_size, stride=1, padding=0): """Conv layer weight initial.""" weight = weight\_variable() return nn.Conv2d(in\_channels, out\_channels, kernel\_size=kernel\_size, stride=stride, padding=padding, weight\_init=weight, has\_bias=False, pad\_mode="valid")
def fc\_with\_initialize(input\_channels, out\_channels): """Fc layer weight initial.""" weight = weight\_variable() bias = weight\_variable() return nn.Dense(input\_channels, out\_channels, weight, bias)
def weight\_variable(): """Weight initial.""" return TruncatedNormal(0.02)使用 mindspore.common.initializer.TruncatedNormal 方法，可以非常便捷地实现网络权重系数的初始化操作，不需要自定义初始化函数。
2) 定义 LeNet-5 网络
MindSpore 来定义 LeNet-5 网络也很简单，根据网络结构，定义相应的卷积层和全连接层即可。在初始化函数 __init__ 种定义神经网络的各层，然后通过定义 construct 方法来完成神经网络的前向构造。
class LeNet5(nn.Cell): """Lenet network structure.""" # define the operator required def \_\_init\_\_(self): super(LeNet5, self).\_\_init\_\_() self.conv1 = conv(1, 6, 5) self.conv2 = conv(6, 16, 5) self.fc1 = fc\_with\_initialize(16 \* 5 \* 5, 120) self.fc2 = fc\_with\_initialize(120, 84) self.fc3 = fc\_with\_initialize(84, 10) self.relu = nn.ReLU() self.max\_pool2d = nn.MaxPool2d(kernel\_size=2, stride=2) self.flatten = nn.Flatten()
# use the preceding operators to construct networks def construct(self, x): x = self.conv1(x) x = self.relu(x) x = self.max\_pool2d(x) x = self.conv2(x) x = self.relu(x) x = self.max\_pool2d(x) x = self.flatten(x) x = self.fc1(x) x = self.relu(x) x = self.fc2(x) x = self.relu(x) x = self.fc3(x) return xLeNet-5 是一个非常典型且简单的卷积神经网络，从 construct 方法可以详细看到 LeNet-5 各层的结构。
3) 定义损失函数
MindSpore 支持的损失函数有 SoftmaxCrossEntropyWithLogits、L1Loss、MSELoss 等。这里使用 SoftmaxCrossEntropyWithLogits 交叉熵损失函数。
from mindspore.nn.loss import SoftmaxCrossEntropyWithLogits
# define the loss functionnet\_loss = SoftmaxCrossEntropyWithLogits(is\_grad=False, sparse=True, reduction='mean')4) 定义网络梯度下降算法
MindSpore 支持的梯度下降算法有 Adam、AdamWeightDecay、Momentum 等。这里使用流行的 Momentum 算法。其中，学习率设为 0.01，momentum 参数设为 0.9。
# learning rate setting
lr = 0.01
momentum = 0.9
# define the optimizer
net\_opt = nn.Momentum(network.trainable\_params(), lr, momentum)5. 训练网络
1) 模型保存
mindspore.train.callback.ModelCheckpoint 方法可以保存网络模型和参数。
config\_ck = CheckpointConfig(save\_checkpoint\_steps=1875, keep\_checkpoint\_max=10)
# save the network model and parameters for subsequence fine-tuning
ckpoint\_cb = ModelCheckpoint(prefix="checkpoint\_lenet", config=config\_ck)2) 训练网络
训练网络使用 model.train 方法进行。这里把 epoch_size 设置为 1，对数据集进行 1 个迭代的训练。训练的过程中会打印 loss 值的变化。
from mindspore.nn.metrics import Accuracyfrom mindspore.train.callback import LossMonitorfrom mindspore.train import Model
def train\_net(args, model, epoch\_size, mnist\_path, repeat\_size, ckpoint\_cb, sink\_mode): """define the training method""" print("============== Starting Training ==============") #load training dataset ds\_train = create\_dataset(os.path.join(mnist\_path, "train"), 32, repeat\_size) model.train(epoch\_size, ds\_train, callbacks=\[ckpoint\_cb, LossMonitor()\], dataset\_sink\_mode=sink\_mode)
epoch\_size = 1
mnist\_path = "./MNIST\_Data
# group layers into an object with training and evaluation features
model = Model(network, net\_loss, net\_opt, metrics={"Accuracy": Accuracy()})
train\_net(args, model, epoch\_size, mnist\_path, repeat\_size, ckpoint\_cb)
其中，mnist_path 是 MNIST 数据集路径。
3) 硬件信息
在主函数中，别忘了配置 MindSpore 运行的硬件信息。因为我们是在 CPU 环境下，所以‘–device_target’设置为“CPU”。
parser = argparse.ArgumentParser(description='MindSpore LeNet Example')
parser.add\_argument('--device\_target', type=str, default="CPU", choices=\['Ascend', 'GPU', 'CPU'\],
help='device where the code will be implemented (default: CPU)')
args = parser.parse\_args(args=\[\])
context.set\_context(mode=context.GRAPH\_MODE, device\_target=args.device\_target)这里的 ‘–device_target’ 默认是“CPU”，根据硬件情况也可以选择“Ascend”或“GPU”。使用的是图模式“context.GRAPH_MODE”。
4) 模型训练
执行程序，模型训练开始。训练过程中会打印 loss 值：
...
epoch: 1 step: 262, loss is 1.9212162
epoch: 1 step: 263, loss is 1.8498616
epoch: 1 step: 264, loss is 1.7990671
epoch: 1 step: 265, loss is 1.9492403
epoch: 1 step: 266, loss is 2.0305142
epoch: 1 step: 267, loss is 2.0657792
epoch: 1 step: 268, loss is 1.9582214
epoch: 1 step: 269, loss is 0.9459006
epoch: 1 step: 270, loss is 0.8167224
epoch: 1 step: 271, loss is 0.7432692
...可以看到 loss 总体来说会逐步减小，精度逐步提高，最终的 loss 为 0.067。
训练完成之后，得到保存的模型文件：
checkpoint_lenet-1_1875.ckpt
6. 模型测试
在得到模型文件后，使用 model.eval() 接口读入测试数据集，通过模型运行测试数据集得到的结果。定义测试函数 test_net()：
def test\_net(args, network, model, mnist\_path):
"""Define the evaluation method."""
print("============== Starting Testing ==============")
# load the saved model for evaluation
param\_dict = load\_checkpoint("checkpoint\_lenet-1\_1875.ckpt")
# load parameter to the network
load\_param\_into\_net(network, param\_dict)
# load testing dataset
ds\_eval = create\_dataset(os.path.join(mnist\_path, "test"))
acc = model.eval(ds\_eval, dataset\_sink\_mode=False)
print("============== Accuracy:{} ==============".format(acc))运行测试网络：
test\_net(args, network, model, mnist\_path)
\============== Starting Testing ==============
============== Accuracy:{'Accuracy': 0.9663461538461539} ==============最终，可以看到刚刚训练的 LeNet-5 网络模型在测试集上的精度是 96.63%，效果非常不错。
至此，我们使用 MindSpore 框架训练 LeNet-5 模型已经完成。实现了基于本地 Jupyter 实现 MNIST 手写数据集分类。总的来说，MindSpore 提供了很多模块化的方法来进行模型搭建和训练，非常方便我们能够快速搭建一个神经网络模型。大家可以根据自己实际需求，上手搭建一个自己的神经网络试试。
本节完整代码：
https://gitee.com/mindspore/d…_code/lenet.py
三、在云服务器上使用 MindSpore
除了可以在本地使用 MindSpore 框架之外，我们还可以在华为云服务器上使用 MindSpore。在华为云上使用 MindSpore 的还有一个好处是，我们可以申请使用昇腾 AI 处理器资源池作为硬件。
ModelArts 是华为云提供的面向开发者的一站式 AI 开发平台，而且集成了 MindSpore。下面我们将在 ModelArts 下使用 ResNet-50 网络识别 CIFAR-10 图片。
1. 准备 ModelArts
1) 进入华为云官网，注册账号。
具体操作：
https://support.huaweicloud.c…_08_0001.html
2) 获取访问密钥并完成 ModelArts 配置。
具体操作：
https://support.huaweicloud.c…_08_0002.html
3) 创建 OBS 桶
具体操作：
https://support.huaweicloud.c…_08_0003.html
2. 申请服务器昇腾 AI 处理器资源
为了在 ModelArts 上使用华为云昇腾 AI 处理器，我们需要申请体验资格，申请方式也很简单，可在下面的网站上进行申请：
https://console.huaweicloud.c…
申请时的内容大家可以填仔细些，一般正常的话两个工作日就批下来了。
3. 数据准备
1) 下载 CIFAR-10 数据集
CIFAR-10 该数据集共有 60000 张彩 *** 像，这些图像是 32*32，分为 10 个类，每类 6000 张图。
CIFAR-10 数据集下载地址：
http://www.cs.toronto.edu/~kr…
注意下载 CIFAR-10 binary version 版本。
2) 新建一个自己的 OBS 桶（例如：mine-ms-dataset）
ModelArts 使用对象存储服务（Object Storage Service，简称 OBS）进行数据存储，因此，在开始训练任务之前，需要将数据上传至 OBS。
首先，登录 OBS 管理控制台：
https://storage.huaweicloud.c…
创建 OBS 桶 mine-ms-dataset（名称可修改，下面类似）。
然后，在刚创建的 OBS 桶里，创建用于存放数据的文件夹：在桶列表单击待操作的桶，在左侧导航栏，单击“对象”，新建文件夹 mine-cifar-10。
最后，将下载好的 CIFAR-10 数据集按照以下目录结构上传至数据目录 mine-cifar-10 中：
└─对象存储 /mine-ms-dataset/mine-cifar-10
├─train
│ data\_batch\_1.bin
│ data\_batch\_2.bin
│ data\_batch\_3.bin
│ data\_batch\_4.bin
│ data\_batch\_5.bin
│
└─eval
test\_batch.bin4. 程序准备
新建一个 OBS 桶（例如：mine-resnet50-train），在桶中创建代码目录（例如：mine-resnet50_cifar10_train）。同时在该桶中创建 output 目录和 log 目录，用来存放模型和日志。
将网址：
https://gitee.com/mindspore/d…_code/sample_for_cloud/
中的两个 .py 文件 dataset.py 和 resnet50_train.py 下载并上传到代码目录 mine-resnet50_cifar10_train 中。
代码目录 mine-resnet50_cifar10_train 结构如下：
└─对象存储 /mine-resnet50-train
├─mine-resnet50\_cifar10\_train
│ dataset.py
│ resnet50\_train.py
│
├─output
└─log5. 创建训练任务
准备好数据和执行脚本以后，下面就可以在云服务器上创建训练任务了。
1) 进入 ModelArts 控制台
打开华为云 ModelArts 主页
https://www.huaweicloud.com/p…
点击“进入控制台”。
2) 使用 MindSpore 作为常用框架创建训练作业
在左侧导航栏中选择“训练管理 > 训练作业”，默认进入“训练作业”列表。
在训练作业列表中，单击左上角“创建”，进入“创建训练作业”页面。
在创建训练作业页面，训练作业名称自定义，例如 mine-resnet50-trainjob。填写训练作业相关参数，具体配置参数如下：
值得注意的时，算法来源常用框架选择 Ascend-Powered-Engine，因为我们使用的是硬件是华为云昇腾 AI 处理器。MindSpore 版本选择 MindSpore-0.1-python3.7-aarch64 即可。
配置完之后，点击下一步 -> 提交 -> 返回训练作业列表，可以看到训练作业 mine-resnet50-trainjob 正在运行：
整个运行过程大概 8 分半钟，显示运行成功，表示模型训练测试完成。
最后，点击训练作业 mine-resnet50-trainjob，在日志里可以看到模型在测试集上的准确率为 92.49%，说明该模型效果不错。
我们还可以从 OBS 种下载日志文件并查看。
以上就是在云上使用 MindSpore 的简单教程。
四、总结：
本文主要通过两个实际应用案例对开源框架 MindSpore 进行介绍。一是基于本地 Jupyter Notebook 的 MNIST 手写数据识别；二是基于华为云服务器的 CIFAR-10 图像分类。两个案例均围绕并使用了 MindSpore。
从我个人的使用感觉来看，MindSpore 用起来还是很顺手的，而且函数封装得比较简洁，使用起来较为方便。通过手把手的教程，大家完全可以自己动手实操一下，感受一下开源框架 MindSpore 的魅力。
大家也可以根据自己的具体应用场景和实用案例，使用 MindSpore，搭建神经网络模型，解决实际问题。无论是计算机视觉还是自然语言处理，相信 MindSpore 都能给大家带来流畅的体验。
参考资料：
https://www.mindspore.cn/
https://www.mindspore.cn/tuto…
https://support.huaweicloud.c…
点击关注，第一时间了解华为云新鲜技术~