共计 5271 个字符，预计需要花费 14 分钟才能阅读完成。
摘要：MindSpore 是华为公司推出的新一代深度学习框架，是源于全产业的最佳实际，最佳匹配昇腾处理器算力，反对终端、边缘、云全场景灵便部署，创始全新的 AI 编程范式，升高 AI 开发门槛。
MindSpore 是华为公司推出的新一代深度学习框架，是源于全产业的最佳实际，最佳匹配昇腾处理器算力，反对终端、边缘、云全场景灵便部署，创始全新的 AI 编程范式，升高 AI 开发门槛。2018 年华为全联接大会上提出了人工智能面临的十大挑战，其中提到训练工夫少则数日多则数月，算力稀缺低廉且耗费大，依然面临没有“人工”就没有“智能”等问题。这是一项须要高级技能的、专家的工作，高技术门槛、高开发成本、长部署周期等问题妨碍了全产业 AI 开发者生态的倒退。为了助力开发者与产业更加从容地应答这一零碎级挑战，新一代 AI 框架 MindSpore 具备编程简略、端云协同、调试轻松、性能卓越、开源凋谢等特点，升高了 AI 开发门槛。
编程简略 MindSpore 函数式可微分编程架构能够让用户聚焦模型算法数学原生表白。 资深的深度学习开发者都领会过手动求解的过程，不仅求导过程简单，后果还很容易出错。 所以现有深度学习框架，都有主动微分的个性，帮忙开发者利用主动微分技术实现主动求导，解决这个简单、要害的过程。深度学习框架的主动微分技术依据实现原理的不同，分为以 Google 的 TensorFlow 为代表的图办法，以 Facebook 的 PyTorch 为代表的运算符重载，以及以 MindSpore 为代表的源码转换方法（Source to Source，S2S 主动微分技术），如图 1.1 所示。
图办法实现简略，并且图的数据结构容易进行优化和并行。不过图办法的可编程性始终饱受争议，用户须要了解图的概念和接口，例如数据节点、通信节点、计算节点、数据边、依赖边、援用边等，存在肯定的学习老本。并且，在图办法中控制流、高阶导的示意较为简单。运算符重载形式比拟合乎用户尤其是钻研人员的编程习惯，很受学术界欢送。不过这种形式须要应用宿主语言（Host Language）的解释器，并且应用 Tape 模式去记录运行过程，所以开销比拟大，同时这种动静形式也不利于反向性能优化。
S2S 主动微分技术，兼顾了可编程性和性能。 一方面可能和编程语言保持一致的编程体验；另一方面它是两头示意（Intermediate Representation，IR）粒度的可微分技术，可复用古代编译器的优化能力，性能也更好。S2S 主动微分技术应用了高效易调试的可微编程架构。首先在接口层提供 Python 编程接口，包含控制流表白，利于用户疾速入门，如代码 1.1 所示。第一步用 Python 代码定义一个计算图（函数）。第二步，利用 MindSpore 提供的反向接口进行主动微分，这一步的后果是一个反向的计算图（函数）。第三步给定一些输出，就能获取第一步中的计算图（函数）在给定处的导数。在这个例子中，主动微分的后果是图中所有输出的导数。MindSpore 的反向接口同样提供选项计算某一个或者一部分输出的导数。
代码 1.1 原生 Python 编程体验
其次，IR（Intermediate Representation，两头示意）粒度的可微分技术可能把用户定义的网络源代码通过解析验证等过程转换为 MindSpore 定义的 IR，也就是 MindSpore IR，在 IR 的根底上利用 IR 更变器办法（IR Mutator Method），最终生成反向代码。在此过程中，也利用了算子交融等技术进一步晋升反向性能。如图 1.2 所示，MindSpore 对控制流的表白包含循环和条件。能够看到代码编程格调与原生 Python 保持一致，更重要的是，与 Python 对控制流的表白不同的是，MindSpore 在生成控制流的反向时不会对循环进行开展，而通过在 IR 根底上进行反向计算，防止了表达式收缩，从而晋升性能。
相比其余框架，用 MindSpore 能够升高外围代码量 20%，升高开发门槛，效率整体晋升 50% 以上。同时，能人造反对编译优化，进一步晋升代码运行效率，无效升高科研工程门槛。MindSpore 主动微分代码如代码 1.2 所示。
除了图层面的主动微分以外，MindSpore 同时反对算子层面的主动微分。在提供了深度学习次要网络的算子的同时，MindSpore 自带的张量引擎（Tensor Engine）反对用户应用 Python DSL（Domain Specific Language）自定义算子，并且提供算子级的主动微分接口。通过应用 Python DSL，用户能够在 Python 中像写数学式一样自定义算子，如同数学中用公式定义函数一样，而张量引擎的算子主动微分接口能够间接对 DSL 定义的算子进行微分，正如数学中应用对立的微分符号示意求导一样，这样让代码的书写更加简洁直观，贴近用户的书写习惯，
如代码 1.3 所示。这里的前向算子是用户用 DSL 自定义的算子，也是算子级主动微分的求解指标。接下来利用张量引擎提供的反向接口去推导出反向算子。对于多输出的算子，反向算子接口能够指定一个或者多个前向算子的输出，而后对这些输出同时进行主动微分计算。另外与图层面的主动微分不同，算子级的主动微分额定接管反向图中上一层算子（对应在正向图的下一层算子）的微分后果作为输出，而后应用链式法则计算出该层反向算子的后果。数学中高阶导数是通过对函数重复应用微分算子计算失去的，同样，在 MindSpore 中，用户能够对算子重复应用反向接口来计算算子的高阶导数。
代码 1.3 MindSpore 算子级主动微分代码示例
算子级的主动微分同样应用了 IR 办法，因而许多 IR 层面的优化技术能够利用在算子级的主动微分中。其中 MindSpore 的张量引擎依据深度学习的算子特色特地减少了 IR 层面的除零优化。未经优化的反向算子中可能存在大量的零元素，极大地影响求和等计算的效率。张量引擎的主动微分通过循环轴合并、循环域调度变换打消反向算子中的零元素，不仅能进步代码的运行效率，也使得代码简化让后续部署更加不便。 此外 MindSpore 的张量引擎引入多项式（Polyhedral）模型，解决循环变形依赖问题，实现主动的算子调度，并且主动内存优化，实现内存最优排布、算子最佳性能。如此让用户从手写调度调优的细节中解放出来，更专一于算法自身。
MindSpore 的算子级主动微分接口不仅能够主动生成反向算子，更提供了进一步手动优化导数公式的可能。MindSpore 的算子级主动微分性能把算子宰割成若干步简略函数的复合运算后，先是利用已知根底函数的导数和求导法令散布求导，而后利用链式法则计算复合函数的导数，最初通过张量引擎内置的数学公式简化器进行化简。这能够满足绝大部分用户对主动微分的须要。
然而对局部有更高性能或者代码部署要求的用户，MindSpore 提供接口让用户能够用本人优化过的导数公式代替某一步或者若干步主动生成的微分，如代码 1.4 所示。尽管下面的例子中 MindSpore 业已实现 Sigmoid 函数的求导，但局部用户可能心愿用手动推导的 Sigmoid 函数的导数 dy=y（1-y）进行计算，这样能够利用前向函数计算的后果。这里把手动推导的导数公式放入函数 custom_sigmoid_fdiff 中，并在主动微分中重载这部分的求导。那么主动微分在放弃其余局部主动生成的状况下，应用 custom_sigmoid_fdiff 作为输入对于 x 的导数进行运算。这样 MindSpore 放弃了主动微分和手动调优的反向算子在格调上的对立，不便了图层对算子的调用。
代码 1.4 MindSpore 手动调优主动微分代码示例
总而言之，MindSpore 在反对算子级主动微分的同时，对反向算子进行 IR 层面的优化，满足算子开发者主动生成反向算子的需要。同时 MindSpore 兼顾了用户对手动调优反向的需要，将主动和手动有机联合，简化了开发流程，晋升了代码的可读性，减少了代码的运行效率。
端云协同 MindSpore 依靠华为“端—边—云”的业务场景，在隐衷爱护日渐重要的状况下，致力于反对全场景部署，并买通云到端全流程。MindSpore 针对全场景提供统一的开发和部署能力，以及按需协同能力，让开发者可能实现 AI 利用在云、边缘和手机上疾速部署，全场景互联互通，实现更好的资源利用和隐衷爱护，发明更加丰盛的 AI 利用。
学术界和工业界没有对端云协同做零碎的概念定义，个别认为波及云和端交互的学习状态，即是端云协同零碎。 模型压缩、端侧推理、端侧训练、迁徙学习、联邦学习等技术在端侧的利用都能够划分到端云协同的领域。这些波及在云侧构建、预训练或托管模型，在端侧执行或训练模型，以及云和端之间模型或权重的传输。在端侧推理场景中，对云侧模型进行模型压缩并转换为端侧推理模型，应用端侧推理框架加载模型并对本地数据进行推理。但云侧预训练模型应用的数据集和端侧实在的数据存在差别，为了利用端侧实在数据训练模型，带来精准的个性化体验，端侧训练成为必然。
因为端侧设施在算力、电量和数据量方面的限度，从头训练一个模型不切实际，因而迁徙学习技术被用在了端侧学习中，能够大幅度降低端侧训练的难度。为了充分利用端侧数据和端侧训练能力，一些端云联结学习办法和框架被提出来，旨在联结多个端侧设施独特训练一个全局模型，并实现端侧隐衷爱护。Google 率先于 2016 年提出了联邦学习办法和框架。杨强等又提出了横向联邦学习、纵向联邦学习、联邦迁徙学习以及联邦强化学习等办法及对应的框架。端侧推理、迁徙学习和联邦学习属于端云协同的不同阶段，如图 1.3 所示的 MindSpore 端云协同框架交融了这三种状态并买通了云到端全流程。
MindSpore 端云协同框架整合了 MindSpore 云侧框架、MindSpore 端侧框架，并买通了模型生成、模型压缩、编译优化和端侧学习的全流程。MindSpore 提供神经架构搜寻（Neural Architecture Search，NAS）能力用于自动化生成模型，构建模型库。MindSpore 模型压缩模块用于对模型库中的模型进行剪枝和量化。MindSpore 提供了编译优化能力用于转换和优化模型，并通过神经处理单元（Neural-network Processing Unit，NPU）、图形处理单元（GraphicsProcessing Unit，GPU）或 ARM NEON(1) 等减速算子执行。MindSpore 端云协同框架具备如下多种个性 (2)。
（1）疾速多处部署。 理论场景中，模型须要疾速适配不同机型硬件。通过神经架构搜寻技术构建多元化的模型库，适配多种机型。针对特定利用场景，从模型库中搜寻满足性能束缚的模型，拿来即用，毋庸反复训练。（2）全栈性能优化。 联合神经架构搜寻、模型压缩（剪枝、蒸馏、量化）、编译优化（算子交融、常量折叠、硬件加速）等伎俩优化模型精度、大小、时延，谋求极致性能。（3）灵便易用。 反对多种策略，如模型生成、模型压缩和编译优化组合应用。买通云到端全流程，集中管理全流程策略和配置，方便使用。（4）多种学习状态。MindSpore 端云框架逐渐反对多种学习状态，比方反对以后业界罕用的端侧推理状态，并逐渐反对迁徙学习、联邦学习等须要端侧训练能力的高级学习状态，满足开发者各种各样的场景需要。
调试轻松 MindSpore 实现看得见的 AI 开发、更轻松的调试体验、动静联合的开发调试模式。开发者能够只开发一套代码，通过变更一行代码，从容切换动态图/动态图调试形式。须要高频调试时，抉择动态图模式，通过单算子/子图执行，不便灵便地进行开发调试。须要高效运行时，能够切换为动态图模式，对整张图进行编译执行，通过高效的图编译优化，取得高性能。MindSpore 切换调试模式代码如代码 1.5 所示。
代码 1.5 MindSpore 切换调试模式代码
性能卓越 MindSpore 通过 AI Native 执行新模式，最大化施展了“端—边—云”全场景异构算力。它还协同华为昇腾芯片 On Device 执行、高效 AI 数据格式解决、深度图优化等多维度达到极致性能，帮忙开发者缩短训练工夫，晋升推理性能。此外，数据集、模型越来越大，单机的内存和算力无奈满足需要，须要模型并行；模型手动切分门槛高，开发效率低，调试艰难。MindSpore 能够通过灵便的策略定义和代价模型，主动实现模型切分与调优，获取最佳效率与最优性能。MindSpore 主动并行代码如代码 1.6 所示。
代码 1.6 MindSpore 主动并行代码示例
开源凋谢 MindSpore 致力于 AI 开发生态的凋敝，开源凋谢可扩大架构，助力开发者灵便扩大第三方框架、第三方芯片反对能力，让开发者实现各种定制化需要。MindSpore 将在门户网站、开源社区提供更多学习资源、反对与服务。
(1) 参考链接：https://developer.arm.com/arc…。
(2) MindSpore 端云协同框架处于开发迭代中，其反对个性以官网颁布的为准。
点击关注，第一工夫理解华为云陈腐技术~
