乐趣区

关于阿里云开发者:技术解读|云上企业级存储打开存储新维度促进用户核心业务创新

简介: 将企业级存储和云的特点进行完满的交融是云上企业级存储的指标,它关上存储更多新的维度,在保障用户业务永续的同时,帮忙用户更好的进行业务翻新。本文属 ESSD 技术解读的总篇,总体介绍 ESSD 云盘翻新交融了云和企业级存储的个性,以服务为核心,为用户提供了更便捷、更智能的存储服务体验。

前言

提到企业级存储,大家印象最深的是“高稳固”、“高性能”、“丰盛的企业级个性”等关键词;而说到云计算,大家会想到“大规模”、“寰球部署”、“弹性”、“服务化”、“智能化”、“即时开明 ”、“按量付费”这些鲜明特征。如果把两者联合,会产生什么样的新存储状态呢?云上企业级存储的指标就是将企业级存储和云的特点进行完满的交融,关上存储更多新的维度,在保障用户业务永续的同时,帮忙用户更好的进行业务翻新。

以块存储为例,常见的企业级解决方案是存储区域网络(Storage Area Network,简称 SAN),通过专用网路连贯存储阵列和业务主机,提供存储对立治理和共享,并实现高性能低提早的数据拜访。但 SAN 存在老本高、运维简单、可扩展性差等有余,而这些问题恰好是云技术最善于的方面。为此,阿里云推出了基于 ESSD 云盘的云上企业级存储,帮忙用户更好的满足以后数字化转型和翻新的须要。

ESSD 企业级云盘

ESSD 云盘为用户提供高可用、高牢靠、高性能的块级随机拜访服务,并提供原生快照数据保护和跨域容灾等丰盛的企业个性。它于 2016 年启动我的项目,基于盘古 2.0 分布式存储底座,采纳 RDMA 和 NVMe SSD 全用户态 IO 技术,并联合阿里 10 多年分布式存储自研技术积攒,在 2017 年首次亮相阿里“双 11”购物节,承载数据库和中间件等外围业务局部峰值流量,获得了惊艳的体现;于是在 2018 年开始在阿里外部大规模推广应用,并开始凋谢给局部内部客户应用,都获得了十分踊跃的反馈;在 2019 年 ESSD 云盘大规模商业化,率先率领云盘进入了微秒时代;2020 年推出普惠型规格 ESSD PL0,让中小客户也能获取 ESSD 全闪技术的红利;到 2021 年 9 月,ESSD 云盘曾经在 59 个可用区规模售卖,95% 的阿里云头部客户抉择应用 ESSD,成为最受欢迎的云盘产品。

作为云产品服务,ESSD 云盘提供服务化、平安、智能的运维管控服务,帮忙用户屏蔽了底层简单的硬件和零碎运维,以申明式凋谢 API 不便用户构建下层的业务零碎。同时,ESSD 云盘服务随着云的基础设施在寰球部署输入,无论是核心区域、还是本地云、边缘云,更好的满足用户多样化的部署需要。

ESSD 云盘为用户提供了三大方面的数据服务:高稳固、高性能、高弹性的数据拜访服务,轻量、实时、弹性的原生快照数据保护服务,随时随地、容灾多活服务。

在最根底的数据拜访方面,ESSD 云盘提供了 9 个 9 的高牢靠和 5 个 9 的高可用,并提供端到端的数据保护,百微秒低提早和百万 IOPS,反对自定义密钥加密、在线扩容和秒级性能变配。并且在近期公布按业务负载性能主动弹性伸缩的 ESSD Auto PL 云盘,反对 NVMe 标准协议和共享拜访,以及满足平安合规物理隔离的专属集群。

在根底数据拜访服务之上,ESSD 云盘还为用户提供了原生快照服务,帮忙用户更便捷的做好数据保护。它提供灵便的快照策略,并且在快照期间不影响前端 IO 读写性能,可能秒级实现快照的创立、回滚和克隆,反对多块云盘创立一致性组快照和利用一致性快照,提供快照跨区域复制,并且满足云原生和容器场景通过快照大规模批量创立云盘进行实时拜访的需要。

除了快照数据保护,为了更好满足用户多地区容灾多活的需要,ESSD 云盘新推出了异步复制服务,让用户“零”门槛起步,利用阿里云寰球部署的基础设施和网络专线,实现异地容灾架构。将来还会为用户提供同步复制、跨区多活等更多容灾服务。

ESSD 云盘以服务为核心,联合云和企业级存储的个性,构建云上企业级存储服务。上面咱们选取 ESSD 云盘最新公布的产品和性能个性,为大家做更具体的解读。

ESSD Auto PL 高弹性 IO

ESSD Auto PL 云盘的推出是为了应答很多用户面临的问题:无奈精确预估业务峰值,在性能配置上难以做好精准布局。如果性能配置预留过高,会造成日常资源的大量闲置节约;而如果性能预留有余,业务突发洪峰会造成业务受损。ESSD Auto PL 云盘心愿帮忙用户解决这个窘境,它反对性能指定配置的同时,反对按业务负载主动伸缩,单盘性能能够主动晋升到最高 100 万 IOPS,为不可预期的突发拜访提供平安便捷的性能主动配置。在关上主动性能伸缩的状况下,用户只需按理论产生超出事后配置性能的读写次数付费,保障业务稳固运行的同时,最大化节俭用户的资源配置开销。

作为业界第一个反对性能容量解耦同时反对性能按负载弹性伸缩的云盘,ESSD Auto PL 须要解决很多技术上的挑战:比方如何疾速感知业务的负载变动,如何动静按需申请开释资源反对性能伸缩,如何疾速均衡负载调度等等。通过重复打磨,ESSD Auto PL 云盘能够做到 10 毫秒级别的业务负载感知和预测,在秒级别实现动静队列调度和并发度调整,对单个云盘细粒度切分可能让它平衡应用整个后端存储集群的资源并疾速动静调整。不止于此,咱们还解决另外两个问题来排除用户的顾虑:

1. 通过对集群容量 - 性能水位的实时监控预测和分钟级跨集群调度平衡,来满足用户大批量云盘负载同时升高,可能超出单集群性能下限的状况;

2. 通过多级 QoS 隔离和优先级治理,包含硬件卸载的队列动静散发,IO 打标和执行代价评估重排等办法,防止在多租户场景下因为弹性晋升带来多租户间的性能烦扰。

通过这些技术,咱们心愿 ESSD Auto PL 云盘简化用户的性能配置,更好助力用户平滑度过业务的尖峰时刻。

NVMe 和 共享拜访

随着闪存技术的迅速倒退和遍及,存储介质曾经不再是存储的瓶颈,而介质之上的软件解决成为最大瓶颈。NVMe 协定是针对高性能设施新推出的数据拜访协定,相比传统的 SCSI 协定,它更加简捷轻量,同时提供了丰盛的扩大个性。这次 ESSD 云盘反对用户应用 NVMe 协定更高效的拜访数据,同时基于 NVMe Persistent Reservation 规范实现了云盘共享拜访。

很多支流的商业数据库比方 Oracle RAC,SAP HANA 等须要应用磁盘共享拜访来实现高可用,NVMe Persistent Reservation 为共享拜访和权限治理提供了平安、轻量的反对,大幅缩短故障切换工夫。同时,ESSD 云盘还利用了硬件卸载技术将 NVMe 虚拟化提早升高 30%,并采纳自研的 Solar-RDMA 网络协议反对高效数据传输,并可能秒级实现网络多路径的故障切换。

轻量、实时、弹性的原生快照数据保护

ESSD 云盘提供原生快照为用户提供便捷的数据保护服务,本次公布除了新增多盘一致性快照组和利用一致性快照外,还对快照体验进行了极致的降级优化,体现在“轻”、“快”、“弹”三个方面。

“轻”:在快照创立期间不影响 IO 读写性能。很多用户放心创立快照影响 IO 性能,只在业务低谷期才进行快照数据保护。咱们对分布式快照算法和实现进行了大量优化,让用户能够抛开影响性能的顾虑,随时进行数据保护。从下图的实测数据能够看到,对 2 块正在大量写入的 ESSD 云盘创立一致性快照时,前台写入的提早不变;咱们也实测了另外 2 家友商的快照体现,会发现 IO 提早减少靠近 1-3 倍。

“快”:ESSD 云盘快照能够在秒级内实现创立、回滚和克隆,满足用户实时数据保护和 DevOps 疾速编排上的须要。

“弹”:随着云原生和容器技术的遍及利用,用户心愿可能在短时间内拉起大量容器 Pod,咱们对快照批量克隆云盘并进行实时数据拜访做了大量优化,可能让用户在分钟级拉起数千个 Pod 疾速启动运行。

异步复制,跨域容灾

数据是企业的外围资产,事实世界总会产生非人力可及的劫难,导致数据中心大面积停服,甚至造成数据失落。数据异地容灾是企业级客户的普适需要,传统的容灾计划往往须要用户自建容灾核心、购买专线、以及投入大量人力运维和测试验证,投入老本大、周期长。而云计算服务在寰球部署的基础设施人造为用户构建了随时随地的容灾能力。ESSD 云盘这次推出了异步复制服务,帮忙用户“零”门槛,随时按需进行跨地区数据容灾。

在 ESSD 云盘异步复制技术设计实现上,咱们对云盘一致性组复制算法做了很多翻新优化,保障主从云盘组的时序强一致性和多重穿插校验,主盘前台读写性能无损;同时在数据传输链路,确保最小增量数据复制,利用多路并发调度压缩复制工夫周期,并对网络健康状况进行实时检测和切换;用户在控制台轻点几下鼠标,即可随时开明异步复制服务,只需按理论使用量来付费。

ESSD 专属集群

局部云上用户心愿对数据施行物理隔离以满足行业标准须要,ESSD 专属集群既能让用户享有云上的对立运维和软硬件继续迭代的劣势,又能够独占集群满足物理资源隔离和定制化的须要。

全新一代高性能 ESSD PL-X 云盘

ESSD 的高性能和丰盛企业个性失去很多用户的青睐,咱们也从和用户的互动交换中学习很多,一直打磨迭代来带给用户更好的云盘体验。很多用户都反馈心愿 ESSD 在性能方面能更进一步,可能满足他们最刻薄性能场景的需要。咱们也始终朝这个方向致力,这里提前给大家带来一个好消息,全新一代的高性能 ESSD PL-X 云盘行将公布邀测。

ESSD PL-X 云盘相比之前性能最强的 ESSD PL-3 云盘,4K 数据写端到端提早升高 70%,只有 30 us;IOPS 晋升 3 倍,最高达到 300 万;而吞吐从 4GB/s 晋升到 15GB/s。相比其余友商的高性能云盘,ESSD PL-X 性能比照劣势更加显著。

ESSD PL-X 云盘采纳了最新的高速 RDMA 网络和持久性内存技术,对数据链路进行深度优化,并通过翻新的高并发读写一致性协定,极致压缩了协定串行化开销。同时思考到持久性内存的单位成本要比 SSD 高一个数量级,ESSD PL-X 云盘交融持久性内存和 NVMe SSD 存储介质,采纳智能分层数据存储管理,为用户带来最高的性价比。

从咱们以后的 FIO 实测数据看,ESSD PL-X 云盘 4K 单路写端到端提早只有 25.44 微秒,这个提早合成下来:主机端虚拟化提早 10.6 us,RDMA 网络传输 13us,存储后端解决仅 1.8 us。

咱们还测试 ESSD PL-X 在数据库场景下的体现,在 32 核 64 GB 内存的云服务器上部署 MySQL 8.0.18 社区版,通过 sysbench 压测多家本地盘和云盘的性能体现,能够从下图看到,ESSD PL-X 云盘在纯写纯读场景下性能都超出其它本地盘和云盘。同时因为 ESSD 云盘反对 16KB 原子写,满足 MySQL 敞开 double write 来更好的晋升性能。咱们还冀望通过一直优化长久化内存的弹性缓存算法来进一步晋升性能,从右下图能够看到,随着长久化内存作为读 cache 命中率的晋升,MySQL 读性能还会一直攀升。

总结

ESSD 云盘翻新交融了云和企业级存储的个性,为用户提供了更便捷、更智能的存储服务体验。咱们置信,将来存储不再是大家印象中的轻便的“铁盒子”,云上企业级存储以服务为核心,关上存储更多维度,让存储变得更加柔性和智能。ESSD 云盘新的产品性能公布朝这个方向迈出了一大步,“稳固平安高性能,普惠智能新存储”,咱们在路上!

原创作品:阿里云存储 满弓

版权申明: 本文内容由阿里云实名注册用户自发奉献,版权归原作者所有,阿里云开发者社区不领有其著作权,亦不承当相应法律责任。具体规定请查看《阿里云开发者社区用户服务协定》和《阿里云开发者社区知识产权爱护指引》。如果您发现本社区中有涉嫌剽窃的内容,填写侵权投诉表单进行举报,一经查实,本社区将立即删除涉嫌侵权内容。

退出移动版