简介：在 8 月 19 日的 2022 中国数字服务大会【边缘服务专题论坛】上，阿里云边缘云团队博士后研究员兼技术专家付哲以《边缘云技术创新 让“云”无处不在》为主题，分享了阿里云在边缘计算与边缘云方面的技术演进路线、商业场景实际与学术研究摸索上的工作。5G 时代降临，万物智联曾经走入公众生存，对计算构造提出了全新要求。随着终端算力上移、云端算力下沉，在边缘造成算力交融，边缘计算逐步深刻多种利用场景，成为不可或缺的网络基础设施与撑持数字经济高质量倒退的重要驱动力量。在 8 月 19 日的 2022 中国数字服务大会【边缘服务专题论坛】上，阿里云边缘云团队博士后研究员兼技术专家付哲以《边缘云技术创新 让“云”无处不在》为主题，分享了阿里云在边缘计算与边缘云方面的技术演进路线、商业场景实际与学术研究摸索上的工作。
数据生产生产形式巨变 边缘计算倒退价值凸显 随着通信技术的倒退，通信的主体从以人为核心，逐步向以物为核心迁徙，信息流转也使得数据的生产生产形式发生巨变。数据的生产生产形式由集中生产、扩散生产，转变为扩散生产、泛在生产，这意味着技术上也须要进行利用的重构和产业的协同。近年来，云计算和 5G 技术的联合，催生出一大批须要大量流量、超低时延、海量链接的新型利用与场景，例如 4K/8K 的超高清视频，工业管制与车联网，环境监测、智慧家庭等等。然而，传统的集中式的云的模式，曾经逐步难以满足这些利用对网络带宽流量、网络传输时延、以及连贯规模等等方面的需要。
边缘计算发展趋势 在以后背景下，为了满足 5G 利用对加强挪动宽带，海量终端互联以及高牢靠低时延连贯的需要，边缘计算和边缘云的价值日益凸显。有机构报告预测，5G 时代，80% 的数据和计算将产生在边缘。边缘云通过将流量在边缘进行收敛，能够实现对大流量的本地化解决和散发，防止海量流量对骨干网络的冲击，同时也无效升高流量的近程传输老本。同时，依靠分布式架构，边缘云能够实现对海量终端高并发的分布式解决，无效晋升计算效率。此外，边缘云通过就近部署，也可能满足海量终端低延时解决的场景化需要。解读边缘云技术架构 拓展云服务能力边界 相较于核心云或者物联网，边缘云是一个新的概念。依据驰名信息技术钻研剖析公司 Gartner 的解读，边缘计算是绝对传统集中通用计算而言，将工作负载部署在边缘的一种计算形式，其采纳分布式的计算架构，在尽可能凑近数据源或者用户的中央进行计算和存储，仅将必要的后果送到云核心。边缘云与传统的云或者 IoT 是互补的定位，没有互相取代的关系，能够将边缘云看作是云的延长，为客户提供低提早、本地化、自治、平安隐衷的服务能力。从用户的终端到云端，Gartner 将这两头的局部，分为了两类边缘：
Gartner：边缘分层构造 第一个是 Near Edge，通常是非规范服务器或设施，在间隔端侧最近的中央，例如在工厂外部，包含 ARM、X86 等各种类型的设施。另一类是 Far Edge，通常是规范的 IDC，或者 MEC，例如传统的 CDN 节点等等。这两类边缘都能够蕴含于狭义的边缘云的概念中。就近、分布式、场景化与差异化，是边缘云有别于核心云的关键字。阿里云在云计算基础设施服务方面，基于对立的飞天底座，提供了一云多芯、一云多态的云计算架构，从核心向边缘辐射，让算力无处不在。
边缘云定义与状态 [1] 核心 region 通常位于一线外围区域，作为全产品大体量的公共云状态，应答各种通用的弹性、高密、大并发、高可用场景，比方大家相熟的互联网计算场景、大数据、AI 模型训练、高性能计算等场景。核心 Region 通常离终端用户较远，时延个别在 100 ms 以内。物联网 IoT 现场计算节点位于用户机房及业务现场，离用户最近，提供软硬一体的计算计划，时延在 5 ms 以内。核心和现场之间的本地 Region，以及边缘云节点，他们到用户的时延通常在 5 ms 到 20 ms 之间。这两者的区别是，本地 Region 位于数字经济沉闷区域，以核心云小型化输入的形式提供比边缘云节点更大规模的计算服务，重点反对这些区域的企业数字化转型的场景。边缘云是由大规模地区扩散的边缘节点，互相协同组成的一朵可近程管控，平安可信，规范易用的分布式云。[1] 边缘云单节点规模较小，在百这一数量级，节点宽泛笼罩离用户更近的热点区域，反对边缘设施治理、智能终端上云、视图流化、渲染、CDN、以及 5G + 边缘云网交融等等边缘场景，为用户提供更近、更低时延，且与核心体验统一的云服务。阿里云边缘云团队作为国内最早定义和研发边缘云的团队之一，早在 2018 年联结中国电子标准化研究院发表了业内首份《边缘云计算技术及标准化白皮书》[1]，对边缘云的概念、架构和利用场景作了明确定义。
边缘云典型利用坐标图 时延和带宽作为边缘云最能带来价值的两个劣势点，为各行各业的翻新利用场景提供了根底。依据对时延和带宽的需要，将边缘云的典型利用列在如上的坐标图中。初期，边缘云上曾经跑着诸如视频监控、智慧工厂、VR、云游戏等利用。随着边缘云技术和利用自身的倒退，中长期边缘云还将反对智慧交通、主动驾驶、近程医疗等等翻新利用。瞻望边缘云技术演进趋势 摸索云服务翻新利用场景 边缘节点服务 ENS 边缘节点服务 ENS 是基于运营商边缘节点和网络构建的 IaaS 层服务，提供“交融、凋谢、联动、弹性”的分布式算力资源，包含虚拟机、裸金属、容器等多种状态，可能无效帮忙用户业务下沉至运营商侧边缘，升高计算时延和老本。
ENS 基础设施布局 目前，ENS 在国内领有 2800+ 节点，实现中国大陆 31 个省份三大运营商全副笼罩，偏远地区也能就近接入。同时，ENS 提供全国分布式资源的分钟级交付，用户可能按量付费，弹性扩缩容。依靠边缘云的劣势，ENS 还提供了优质的边缘网络，并且可能反对边边减速、云边减速。此外，ENS 还提供了多种业务场景计划的整体交付能力，例如提供成熟的内容散发、视频上云等解决方案，有助于客户业务转型降级。视图计算 VEC 依靠于边缘云底座，阿里云边缘云提供了视图计算服务。视图计算是面向视图设施，例如摄像头、车载终端、生产电子等等，为这些设施的上云场景提供连贯、AI 计算、云存储的 PaaS 服务，可能大大降低网络延时，晋升视图类数据处理效率。
基于边缘云构建 VEC 零碎架构 基于视图计算服务和阿里云自研的接入协定，客户的视图设施可能一键上云，并且就近接入到边缘节点，实现直播、录制、截图、转码等根底视频解决能力。同时，阿里云边缘云也集成了阿里达摩院的 170 多项丰盛的视觉 AI 算子能力，包含交通拥堵、安全帽监测等等，反对高速上云、智慧工地等场景。视图计算服务基于边缘云可能实现视频流的边缘就近解决与存储，可能为客户优化流量与存储老本。此外，平台还提供可视化的流程编排能力，给用户提供易用的体验。协同存储 EOS 针对边缘大容量存储场景，阿里云边缘云推出了独立的服务——边缘协同存储。正如前文所述，终端上云场景往往具备地位扩散、数据规模大、价值密度低的特点，同时还有一点就是带宽反转，上行带宽远大于上行。长期的数据回云会造成较大的带宽压力以及存储老本，同时最重要的一点，无奈保障就近、低提早。边缘协同存储，是将边缘云多个分布式节点的对象存储资源进行对立治理和调度，提供地位无感、体验统一、大容量、高性价比的对象存储能力。
基于边缘云构建 EOS 零碎架构 为了实现这些劣势，在架构设计上，边缘协同存储采纳了典型的云边协同管控计划，核心的元数据逻辑 Bucket 与边缘的物理 Bucket 动静映射，保证数据的一致性。同时采纳优化过的读写调度策略及算法，在保障性能及稳定性前提下的实现资源最优应用。另外，边缘节点实现了一部分的自治管控，能够进一步升高拜访延时，同时晋升服务的稳定性。寰球实时传输网 GRTN 第三个典型利用是基于核心云和边缘云节点，构建的一张超低时延、全分布式下沉的通信级流媒体传输网络 GRTN。传统的流媒体传输，依赖的是基于 CDN 构建的树状网络。从一个摄像头采集到的画面，到用户通过手机观看，须要通过 L1、L2、直播核心、L2、L1 等多级节点，链路绝对比拟固定，延时、老本、扩展性都有很大的优化的空间。
GRTN 设计概览 [2] GRTN 采纳了一种树状和对等网联合的动静网络，GRTN 的各节点之间不再有层级关系，而是互相对等，最终造成的就是一个网状结构的零碎。此外，流媒体大脑作为 GRTN 的外围组件，负责门路探测、门路计算、流媒体编排等。选路核心会周期性收集外部链路探测的后果，并利用 KSP 算法来进行拓扑计算。另一方面，节点之间的链路探测数据，并不能齐全决定理论的最优门路，例如在多人视频会议的场景，退出的参会人员的数量、散布甚至先后，都会影响最终的门路决策。因而流媒体大脑还须要对流媒体的具体信息进行感知，同时还须要联合各节点的容量布局、老本、品质等等因素，独特编排出最优的传输门路。
GRTN 优化后果展现 [2] 通过基于理论线上业务进行了测试，相比传统的 CDN 树状构造，GRTN 的传输时延由 400ms 左右晋升至 180ms 左右，时延减半。此外，在用户体验上，98% 的播放不会呈现停滞的景象，95% 的播放能够在 1s 内开始。该工作的相干成绩已被 sigcomm 2022 接管，感兴趣的读者能够进一步查阅论文。[2] 边缘 AI 利用边缘节点广散布且凑近数据源产生地的特点，可能进行特定的数据处理和辨认优化，提供低延时、省带宽、低功耗、平安的 AI 服务。
基于边缘云构建边缘 AI 零碎架构 整体架构采纳了云 - 边 - 端三层协同的计划。在终端侧，手机、iot 等设施算力较弱，且功耗无限，因而很难运行比较复杂的 AI 模型，更适宜做数据的采集、压缩、以及预过滤性质的工作。边缘云提供了 GPU、FPGA 等硬件加速的能力，然而相较于核心云，规模和算力还是比拟无限的，因而不太适宜在边缘云进行大规模的模型训练以及数据的长久化存储，更适宜对时延要求较高的推理局部。而模型的训练、后果的长久化存储，能够放在核心云进行。因而，在云 - 边 - 端三者协同的边缘 AI 场景，通过将 AI 算子从终端设备上移到边缘云，将 AI 算力从核心下沉到边缘云，独特提供低时延、高效能的 AI 服务。除此之外，为了不便算法科学家将算子模型部署到边缘云，阿里云边缘云同时开发了边缘算子托管平台，可能联合边缘云分布式的特点，一站式、自动化地实现 AI 服务在边缘节点的部署，将 AI 模型的推理过程转化为通用的 Restful API 接口模式，供终端用户调用。阿里云边缘云团队在 2020 年公布于 IEEE EDGE 会议的一篇论文中的试验表明，边缘 AI 在局部场景能够大幅度晋升推理性能，指标检测性能最多能够晋升 50 倍。[3] 云渲染 云渲染，或者云游戏，是最近十分火的一个方向。阿里云边缘云基于边缘云的全分布式异构计算资源和网络带宽资源，针对游戏、AR/VR 等视频渲染场景，提供就近、低延时、地位无感的云上渲染服务。
基于边缘云的云游戏零碎架构 以云游戏为例，用户的游戏终端仅仅包含显示局部和操作局部，用户将控制指令发送到边缘云节点，在边缘云节点渲染出实时游戏画面后，游戏的视频流和音频流回传到用户游戏终端。这样的话，用户不须要弱小的游戏设施，仅仅通过手机、电视、甚至家中的智能音箱，就能畅玩目前最新、最火的游戏。
基于边缘云的云游戏服务优化后果展现 [4] 云游戏中，时延是最能影响用户体验的因素。因为边缘云相比核心云能提供时延更低、品质更好、老本也更便宜的网络能力，因而，基于边缘云的云游戏服务的时延，要显著好于基于核心云的云游戏服务。阿里云边缘云团队在 IMC 2021 与几所高校单干发表的论文，测量了以云游戏为代表的边缘云典型利用的性能和劣势，通过该论文理解钻研的具体后果。[4] 直击边缘云钻研挑战 精准把握业务优化方向 边缘云协同挑战 资源调度，特地是云计算中的资源调度，曾经是一个绝对成熟、研究成果也较为丰盛的畛域了。然而，边缘云的诞生为这个成熟的场景带来了新的问题和新的机会。边缘云中，协同是一个重要概念。以下将开展介绍与调度相干的三种协同：
首先是地理位置的协同。传统的云资源调度往往是单个微小的云数据中心，调度的时候个别不会关注离最终用户的间隔、以及网络时延。而边缘云的资源调度，单节点的规模更小，通常只有几百台甚至更少的服务器。然而边缘云节点或者边缘云机房的数量又是十分大的，例如阿里云在国内有 2800 个节点，相比较而言，核心云的 region 大略只有十几二十个。因而，面对这种分布式广覆盖的小型节点 并且地理位置有感的资源调度场景，传统的云资源调度办法难以获得比拟好的调度后果，须要钻研更适宜这种场景的调度办法。第二，边缘云思考的资源维度更多。除了时延之外，受限于单节点规模较小的特点，在做调度的时候还须要同时思考磁盘大小、网络带宽、甚至节点的 IP 数量、NAT 网关的承载能力，等等。这些不同维度的资源有可能是相互依赖、甚至是互斥的。因而，如何做到以及做好多维资源的协同调度，也是边缘云面临的挑战之一。最初是产品状态的协同调度。传统的云资源调度，虚拟机、容器、函数等等不同状态的产品所依赖的底层资源是分池的，他们之间的调度互不影响。然而在边缘云场景，是对立的交融调度，也就是说，在一台服务器上可能同时运行客户 A 的虚拟机、客户 B 的容器、以及客户 C 的函数服务。因而，如何可能在保障性能不相互影响的前提下，联合边缘云产品的特点，通过调度充沛晋升资源利用率，也是一个比拟大的挑战。异构资源管理 第二个大的钻研挑战来自于异构资源管理方面。
前文介绍的云渲染云游戏场景，目前局部业务是由新型异构硬件承载的，比方 ARM 服务器，或者手机 ARM 芯片组成的阵列服务器，等等。这些新型硬件对于云计算厂商来说，短少一套标准化的纳管、测试、评估规范。阿里云期待跟各大高校、科研单位单干，共建一套边缘云异构硬件评估零碎与规范。此外，基于这些新型异构硬件，也须要进行虚拟化层面适配，例如，如何在手机 ARM 芯片阵列服务器上，构建出性能残缺的容器平台，提供更灵便、扩展性更强的服务能力。第三，局部异构硬件通常含有专用的硬件加速单元，这些硬件加速单元是否通过软硬件协同优化，更充沛地被下层业务所应用，减速诸如编解码、AI 等等场景，也是阿里云边缘云团队感兴趣的钻研方向之一。云游戏 /VR 时延优化 最初，在云游戏、VR/AR、元宇宙等近期比拟热门的应用服务中，同样有大量钻研机会点。
如针对云游戏或者 VR 相干场景的编解码、传输等方面，能够通过交融边缘云个性进行专门的优化。此外，目前大部分云游戏间接将游戏放在边缘运行，只做到了“游戏云端化”，尽管在短期内实现了丰盛云游戏服务，然而并没有充分发挥云的劣势。将来阶段，是否可能诞生真正的原生就运行在云上的游戏，这些游戏为云而生，弹性自若，可能充分利用云的劣势，给用户带来更极致的云游戏体验，也是阿里云边缘云期待和大家一起探讨和解答的问题。参考文献 [1]《边缘云计算技术及标准化白皮书》2018，阿里云计算有限公司，中国电子标准化研究院 [2] Li, J, et al. “LiveNet: A Low-Latency Video Transport Network for Large-Scale Live Streaming.” ACM SIGCOMM (2022).[3] Fu, Zhe, et al. “Astraea: Deploy AI Services at the Edge in Elegant Ways.” 2020 IEEE International Conference on Edge Computing (EDGE). IEEE, 2020.[4] Xu M, Fu Z, Ma X, et al. From cloud to edge: a first look at public edge platforms[C]//Proceedings of the 21st ACM Internet Measurement Conference. 2021: 37-53. 更多边缘云产品资讯欢送拜访【阿里云边缘云】或扫码关注【阿里云 Edge Plus】
边缘云 开启分布式云网交融新时代原文链接：https://click.aliyun.com/m/10… 本文为阿里云原创内容，未经容许不得转载。