01 数据的暴发为存储带来继续挑战
在 5G 时代下,视频和图片因其弱小的信息承载力,曾经成为数据内容的次要载体和信息流传的次要形式。而 5G 的大带宽、低时延、广连贯的个性激活了云游戏、物联网、视频监控等场景利用,从生产互联网到产业互联网的延长,更加促成了终端利用和数据的暴发。
这些终端和数据具备地位扩散、规模大、以及价值密度绝对较低等特点,典型的如:视频监控录像 / 截图、云游戏录像、海量长期日志文件等。一方面,咱们须要提供就近、低提早的数据接入与存储能力,另一方面,咱们须要在边缘进行数据的精细化治理,与计算相结合,剖析其中的要害片段以及其结构化信息。
这样的场景和需要对计算和存储的形式带来了严厉挑战和根本性变动。
02 基于边缘云构建地位无感的协同存储服务
用户在应用对象存储时,针对海量数据,提出了大流量、就近、低提早的要求,边缘云在这些方面具备人造劣势,但边缘云的对象存储在应用形式和体验上存在显著有余。相较于传统核心云的 region 化应用形式,边缘云的单点规模较小,并且节点数多了几个量级。
如果每个边缘云节点独立进行对象存储服务,无异于将简单的逻辑交给用户,用户应用时将面临节点资源管理、资源读写调度、单节点可用性运维等诸多简单问题。这会对用户业务带来微小的挑战,任何节点状态的变动,都可能带来业务的感知,解决不好甚至会对业务造成重大影响。
以摄像头数据上云为例,传统的形式,用户须要感知终端设备的地理位置,并且须要去保护海量终端设备和云上地址的对应关系,一旦呈现单点故障,用户须要做大量的动作来进行调度和迁徙。
传统的数据上云架构
而现实的架构中,用户无需关怀具体的云上地位,心愿与云只有一个交互面,就能实现全网设施的就近、低提早接入,并且无需关怀云上单节点的负载、水位、异样等状况。
现实的数据上云架构
边缘计算孵化了地位无感的协同存储 (EOS) 服务,通过核心管控和多个边缘节点进行协同,将散布在各地边缘节点的物理存储资源,组成一个逻辑对立的对象存储资源池。用户无需关怀读写地位和单节点可用性带来的运维和调度问题,即可失去与应用私有云对象存储统一的接口体验,以及由数量泛滥的边缘存储资源整合而带来的大容量、高弹性的存储资源池。
03 协同存储外围模块
协同存储采纳了典型的云边协同架构,其外围蕴含核心管控与边缘节点两局部,其中,核心管控蕴含以下治理模块:
- 元数据管理:汇聚全网的元数据进行对立治理,与文件读写调度、文件生命周期等联动;
- 资源调度:负责逻辑存储桶与物理存储桶的映射关系治理,依据节点状态、水位进行全局资源动静布局;
- 读写调度:依据用户地理位置、所需资源量、文件散布等因素进行全局文件读写调度;
- 多点数据协同:对节点数据进行跨节点复制或数据迁徙,进步整体服务可用性;
边缘节点蕴含以下治理模块:
- 节点网关:提供节点文件读写服务,如存储协定兼容、http/ https 拜访反对、动静配置、跨域治理、流控、日志监控等。
- 边缘管控
- 与核心管控协同实现残缺的管控逻辑,同时在节点范畴内具备肯定的边缘自治能力;
- 负责节点内存储管理、跨节点数据复制 / 迁徙等操作;
- 负责节点内多引擎容灾。
- 存储引擎:提供根底的存储能力 (文件读写等) 以及文件容灾能力(EC、三正本等)。
04 协同存储的关键技术
基于边缘节点构建的地位无感分布式协同存储,关键技术在于以下几点:
- 节点对立纳管与调度
对用户而言,和边缘云只有一个交互面,协同存储将多个物理节点形象为一个逻辑节点,通过全网资源的对立纳管,进行多维度的协同调度,过程中会综合地理位置、节点带宽、存储空间、设施亲和性等泛滥因素,从而实现服务的高可用以及数据的就近存取,同时,协同存储提供了灵便的接入和调度策略供业务按需应用(全国、区域、运营商、单节点、自定义节点范畴)。
- 文件读写调度
协同存储物理文件存储在边缘节点,存储空间、文件元信息等汇聚到核心,进行对立的治理和检索。
应用形式上,文件写入和读取均可采纳 302 调度形式,写入对立域名,协同存储通过地理位置、节点水位等综合调度后,将申请跳转到实在的物理节点进行读写,用户无需关怀终端所在位置,即可疾速就近、低提早接入。
- 实时的节点状态和容量监测
协同存储会对单个节点进行实时状态与水位检测,当单点不可写时,会主动将申请迁徙到其余节点,实现服务无感漂移和切换,单点复原后疾速复制同步。
- 跨节点多正本
为了应答节点割接、容灾等场景,协同存储提供了跨节点多正本的冗余能力,将数据进行节点间错峰同步。当单点不可用时,协同存储会进行流量的疾速转移,同时也能够在访问量大时进行多节点读负载平衡,整个过程用户无感知。
- 边缘对立的存储拜访网关
在整体架构上,协同存储通过边缘对立网关进行异构资源的适配,不论是从 API、SDK 还是受权体系,齐全兼容现有的应用形式,这对于海量的数据源来说,只须要简略配置,便能够疾速将数据上传到协同存储,从而确保给用户云边一体化的应用体验,同时去除了 Region 概念,间接采纳了对立的域名接入和治理形式,真正实现了只上一朵云、只存一朵云。
目前协同存储曾经在泛滥场景着落地,典型的如监控设施的截图 / 录像上传、车载场景的数据就近写入等。将来,咱们将与边缘算力进行更加紧密结合,助力网、算、存一体化的边缘计算体系倒退。协同存储的演进,必将为边缘更多场景的落地提供无力撑持,为边缘计算带来更多的可能性。