你真的懂NVMe吗?

在说NVMe之前,咱们感觉有必要先聊一聊NVM(Non-Volatile Memory),即非易失性内存。从名字上看就晓得,NVM是一品种内存式(拜访及寻址形式相似)的设施,它必须具备高速读写数据的能力,但它和一般内存的区别在于Non-Volatile,即在关机后再关上电源也能够检索里边所存储的数据。这种非易失性内存NVM设施有很多种实现,咱们罕用于服务器的大容量NVM是一种闪存,即Flash Memory。闪存是一种固态芯片,支流的闪存设施应用NAND技术来映射数据,这种芯片无需任何内部电源即可保护存储的数据,它的读写速度比内存稍低,但无需借助机械形式进行寻址,因而读写性能远高于机械磁盘,容量也比内存要大,单GB老本近年来疾速降落,大有成为服务器上高速存储介质支流设施的趋势。

NVMe协定组成架构

有了设施和协定就能够了吗?

有了NVM设施和拜访这个设施的协定NVMe,就肯定能享受到这些设施带来的高性能了吗?答案是否定的。

首先要说到的,就是数据传输的问题,数据传输指的就是NVM设施到服务器内存之间的传输。外围组件互连Express(PCIe)是目前应用最多的传输介质。NVM设施及NVMe协定设计之初,也是先面向PCIe或PCI Hub的。通过PCI拜访NVM设施会有什么问题呢?很容易就能想到,一台服务器上PCI接口是无限的,因而也不能接入很多的NVM设施,那么容量就会受到限制了。此外,数据中心内其它服务器也很难通过PCI拜访另一台服务器上的NVM设施。这就很大限度了NVM设施的应用。

除了PCI之外,还有什么形式能进行NVM设施上数据的传输吗?当然有,这就是NVMe over Fabric,所谓的Fabric有几种形式,能够是Fibre Chanel,即目前磁盘阵列中应用的传输网络,或者InfiniBand。NVMe-oF使得一台服务器能够通过网络的形式,通过NVMe协定间接拜访远端另一台服务器上的NVM设施,带宽和延时近似于设施插在本地服务器上,这就极大拓宽了NVM设施的应用范畴。但仔细的读者应该很快能反馈过去,在古代数据中心,TCP网络应用更广,因而,NVMe组织在2019年推出了NVMe over TCP技术,从而使服务器通过TCP网络就能够拜访远端的NVM设施了。

NVMe over TCP技术作为创新型技术,从推出就瞄准了通过TCP互联的,更广大的云和数据中心大规模应用NVM设施的场景。

其次是拜访效率的问题,与SCSI等协定不同,NVMe协定实现了多队列的架构和指令集,更能施展多核CPU服务器的解决能力,使该协定指令集在多核CPU服务器上施展更好的性能,存储系统如果不能针对这些特点进行深刻的优化,也不能充沛享受到新型介质和协定带来的红利。而针对NVMe协定和设施进行的零碎级优化,是包含焱融科技在内的软件定义存储厂商须要攻克的难关。

此外,还须要思考利用拜访接口的问题。目前,人工智能、高性能计算零碎次要通过文件系统拜访非结构化数据,构建以NVMe协定为根底的,以高带宽、低延时为外围要求的高性能文件系统是利用零碎的外围要求,这也是利用场景驱动翻新的出发点

YRCloudFile+LightOS 联结解决方案

LightOS是以色列技术型存储翻新企业,焱融科技与Lightbits联结计划,能够为用户提供NVMe多队列并发拜访的极致性能,最重要的是,能将NVMe设施通过TCP形式,组成高性能分布式文件系统,向下层利用提供文件拜访服务。对下层利用而言,齐全无需关怀底层存储细节、数据如何搁置,即可应用高IOPS、高带宽、极低延时的文件共享拜访服务。

联结计划参考架构

焱融科技与Lightbits OS对参考架构进行了性能、可靠性、可用性的测试,测试架构如下所示:

各个服务器之间应用25Gb以太网进行连贯,应用三台服务器搭建YRCloudFile集群,在罕用的TCP网络条件下,单个客户端节点的4K随机读IOPS可达38万,写IOPS达30万,读写延时均低于400us。多客户端拜访,各客户端性能互不烦扰,集群可为每个客户端稳固提供雷同的性能。

在大IO程序读写测试中,单客户端读写带宽均达到2.8GB/s,靠近25Gb网络带宽下限。

应用vdbench模仿200,000个不同文件大小进行读写带宽测试,对4K小文件的读写性能为1280MB/s和1040MB/s,对128KB大文件读写性能可达2800MB/s。

联结计划劣势

YRCloudFile+LightOS联结计划,具备以下劣势:

  • 只需借助现有的以太网络,即可疾速搭建基于全NVMe的分布式文件系统,无需购买额定的专用替换设施和网卡
  • 多个下层应用服务器可通过文件接口共享拜访底层海量非结构化数据
  • 业界一流的文件系统随机读写、程序读写性能
  • 数据去重压缩,TCO缩小20%-50%
  • 单集群可达百PB空间,承载百亿文件。满足海量的文件数量与空间需要
  • 可同时提供文件存储和块存储接口,满足不同业务接口的需要
High performance file system is critical infrastructure facility to applications like AI. YanRong Tech and Lightbits Lab cooperate closely, announce the NVMe/TCP file system with high performance and massive small files support, providing an innovative solution to all customers and partners.\
------ Alfred Chase Hui, Lightbits亚太区销售总监

该联结计划十分实用于人工智能、高性能计算、基因迷信、影视渲染、气象剖析、资源勘探等依赖高性能文件系统,以及领有海量非结构化数据的利用场景,能无效帮忙客户晋升业务系统对非结构化数据的拜访性能,从而改良业务运行效率,解决数据分析的零碎瓶颈。

如需获取解决方案残缺版本,查看举荐架构以及参考性能指标,请发送邮件分割咱们:sales@yanrongyun.com。

Lightbits Labs

成立于2016年的Lightbits Labs正在寰球范畴内重塑古代云基础设施。公司的使命是重构存储和网络在云数据中心的部署形式。Lightbits的软件定义分离式存储解决方案为企业公有云、软件即服务(SaaS)和基础架构即服务(IaaS)提供商节俭大量工夫和老本,同时实现更高的应用程序性能和公共云级别的可扩展性。Lightbits Labs最先意识到全NVMe高性能存储介质及协定与规范TCP网络相结合所带来的机会。其LightOS®软件和LightField™存储加速卡是第一个提供在规范TCP网络上运行的全局闪存转换层(GFTL)的NVMe/TCP解决方案。

焱融科技

焱融科技是一家以软件定义存储技术为外围竞争力的高新技术企业,在分布式存储等关键技术上领有自主知识产权,是高性能文件存储和容器存储的领导者。焱融科技外围产品YRCloudFile在寰球IO500性能测试中,进入世界前六。同时,YRCloudFile是国内首个进入CNCF Landscape的容器存储产品。焱融科技针对各行业业务个性,打造个性化行业解决方案,提供一站式的产品与服务。焱融科技系列产品已服务于人工智能、金融、政府、制造业、互联网等行业的泛滥客户。理解更多焱融科技信息,请拜访官网http://www.yanrongyun.com。