关于数据中心:DatenLord前沿技术分享-No26

达坦科技专一于打造新一代开源跨云存储平台DatenLord,通过软硬件深度交融的形式买通云云壁垒,致力于解决多云架构、多数据中心场景下异构存储、数据对立治理需要等问题,以满足不同行业客户对海量数据跨云、跨数据中心高性能拜访的需要。在本周的前沿技术分享中,咱们邀请到了南京大学田臣传授,来为大家分享RDMA赋能数据中心/超算核心间近程互联。 01、演讲题目RDMA赋能数据中心/超算核心间近程互联 02、演讲工夫2023年6月4日上午10:30 03、演讲人田臣南京大学登峰打算引进人才,传授,博士生导师。田臣老师在计算机网络和分布式系统畛域多个顶级学术会议(含6篇SIGCOMM、3篇NSDI以及OSDI/ATC/FAST/SIGMOD等)和出名国内期刊上录用和发表论文100余篇。他的工作受到了国内外研究者的宽泛援用和关注,依据Google Scholar 最新学术搜寻数据,申请人迄今为止论文累计被援用5000余次。钻研工作取得工业界广泛应用,是华为中央研究院2020年度“最佳单干传授”惟一获奖者。 04、内容简介同城备份、东数西算等需要促成了数据中心或者超算核心之间的近程互联技术须要。RDMA是近年来数据中心/超算核心内的支流网络技术,取得了工业界广泛应用。利用心愿在数据中心之间也能间接应用RDMA技术取得其优越性。本次将分享咱们在该方向上的重要研究进展和下一步倒退方向。 05、直播预约欢迎您预约直播,或者登陆腾讯会议观看直播:会议号:474-6575-9473 达坦科技(DatenLord)专一下一代云计算——“天空计算”的基础设施技术,致力于拓宽云计算的边界。达坦科技打造的新一代开源跨云存储平台DatenLord,通过软硬件深度交融的形式买通云云壁垒,实现无限度跨云存储、跨云联通,建设海量异地、异构数据的对立存储拜访机制,为云上利用提供高性能平安存储反对。以满足不同行业客户对海量数据跨云、跨数据中心高性能拜访的需要。 公众号:达坦科技DatenLordDatenLord官网:http://www.datenlord.io知乎账号:https://www.zhihu.com/org/da-tan-ke-jiB站:https://space.bilibili.com/2017027518达坦科技邮箱:info@datenlord.com若有趣味退出达坦科技,或退出达坦科技技术交换群,请增加小助手微信:DatenLord_Tech

June 2, 2023 · 1 min · jiezi

关于数据中心:联合解决方案系列|DeepCooling面向可持续经济发展的碳中和计算技术

近年来,中国正在疾速倒退新一轮的新型根底建设。作为新基建的重要组成部分,大数据中心为应答 5G、人工智能、工业互联网的大数据需要而生,能够说,大数据中心是新基建的基本。作为数据收集、解决和交互的核心,大数据中心间接决定了企业将来的外围数字化竞争力。 因为数字经济需要的快速增长,数据中心计算自身带来的碳排放也越加收到关注。2019 年,中国建造的数据中心数量大幅增长。随着新冠疫情减速各行各业的数字化步调,美国和欧洲也纷纷大规模建设数据中心。但在如此大的用电规模之下,我国数据中心的能耗利用率却差强人意,总体能效与国内先进程度相比仍有差距。所以,进步数据中心能效,不仅是企业降本增效的重要伎俩,更是中国实现碳达峰、碳中和指标的不可缺的重要门路之一。 通过碳中和计算技术实现以 AI 和数据驱动的数据中心碳中和 用计算来解决由计算自身扩能所造成的碳排放问题,是计算畛域的衍生翻新,咱们称之为碳中和计算技术。碳中和计算反动正在席卷寰球,在寰球数据需要一直增长的局势下,大规模建设新一代以碳计算技术辅助的绿色数据中心势在必行。 VMware 作为当先的云基础架构厂商,对可持续性有着长期的承诺。在中国,VMware 和英特尔也在聚合生态,推动碳中和计算的翻新。VMware、英特尔和Quarkdata(云创近景)合作开发了联结解决方案 DeepCooling,以减速推动在中国乃至寰球数据中心规模化采纳可继续的碳中和计算技术;并一道在2021年底独特公布了数据中心进步运维效率、节能减排的联结白皮书:《面向可继续经济倒退的碳中和计算技术—数据中心新基建背景下的减排翻新》,通过在数据中心外部综合利用物联网/边缘计算、人工智能/深度学习、和交融运维治理等技术节省能源、缩小碳排放。 DeepCooling可继续的碳中和计算技术通过继续的边缘 AI 干涉和实时控制,帮忙企业优化数据中心的整套制冷体系的能耗体现。这套计划曾经在三方的联结推动下,在国内数个大型数据中心落地,帮忙客户显著改善了PUE,升高了碳排放。在曾经生产性部署的环境里全面验证了显著缩小制冷系统能耗和碳排放的成果。 1. DeepCooling 解决方案DeepCooling 概述DeepCooling 基于 AI 和大数据技术,采集数据中心制冷链关键设备的运行指标,联合动环和能源监控数据,利用机器学习建模,精准预测匹配数据中心制冷的最优参数组合,并且通过动静调节制冷系统各个环节参数,进步制冷成果、升高制冷开销。 DeepCooling 次要通过历史数据对整个数据中心负载、发热以及制冷等各个物理零碎进行建模,在此基础上基于负载的预测后果,对于制冷系统进行优化管制,将制冷系统传统的基于反馈的管制晋升为基于建模的前馈管制。DeepCooling 能效优化是一个动静循环过程,每个循环周期包含的次要步骤如下: 数据采集:通过智能传感器和网关设施,采集动环数据、机房空调数据、机房物理空间数据、人工数据等,进行初步汇总,生成机房空调冗余度、机房热力求等两头数据。剖析建模:建设各类热平衡模型,为制冷系统各个部件,如末端空调、水冷机组、旱路等进行建模,同时建设热负载、制冷系统以及温度之间的关系。优化管制:通过训练好的机器学习模型求解每个时刻各个系统的参数,并通过程序下发进行,依据负载准确匹配制冷系统的输入,从而实现制冷设施的能耗节俭。指标收集与剖析通过对接数据中心现有 DCIM 和制冷系统,收集了来自各个机房的温湿度、电量、空调负载以及连带的旱路等数据。在这个根底之上 零碎提供了一套弱小的数据展现和可视化零碎,对机房的冷热设施温度差、热力求有直观的图形化展现。产品将机柜和风道的热力散布、能耗直观展示,可对异样设施和设置做疾速的发现和解决。个别的,能够对机房外部的热负载做剖析和制冷输入进行剖析和可视化,同时反对对每个配备和传感器细节进行可视化: 零碎同时提供了丰盛的报警和策略审计能力,以更好地反对数据中心的运维工作。 模仿物理模型与优化管制基于对于整体零碎收集的数据,分两步来对数据中心的制冷系统机型建模,首先是每个机房,即理论冷量的应用端,同时基于建设的模型,对于末端风机进行优化管制。 第二步将基于所有机房的负载,对于数据中心整体负载进行建模,从而更好的管制集中冷源: 通过对于数据中心整体物理零碎的建模,零碎实现了一个基于建模的前馈优化管制,来改善传统的基于反馈的制冷系统管制体系,从而实现了更经济的能耗体现,以及更加稳固的温度控制。 2. 具体实施部署拓扑构造零碎通过一个分布式的基于边缘推理的计算体系,来实现对于数据中心整体制冷体系的优化管制。一个典型的部署拓扑如下: 每个机房都有独立的管制节点,以实现边缘侧的模型推理以及优化管制的计算,并实现对于所有空调的管制。同理,对于冷源侧,也将会有配套的边缘管制节点实现相干的优化管制。 成果及投入回报率零碎可能提供 18%-25% 的制冷电量节俭,对应的会带来大概 0.1-0.15 的 PUE 改善。对于数据中心的硬件改变较小,施行过程中个别不会对失常生产带来负面的影响。因而 DeepCooling的ROI 是传统基于硬件革新的能耗计划一倍以上。 商业案例末端空调能耗优化该数据中心因为布局等问题,存在温度方差大,温度均值散布不平均的问题,单个空调空度管制存在较大稳定。 DeepCooling 通过 11 个机房精细空调运行状态的调整,并累计 14 天机房内精细空调及 IT 设施能耗数据,通过与后期累计数据比照,均匀节能率 30% 以上,最高可达近 70%。 水冷机组能耗优化该数据中心旱路设计负荷和理论负荷差距较大,个别理论负荷远低于设计负荷,原有一次定频泵设计导致低进回水温差,大流量,导致节约;同时整体水冷机组负载偏低,该数据中心 4 台水冷机组,每个水冷机组两个压缩机开启的前提下,均匀负载个别为25%- 35%,远低于最优 COP 负载区间(个别为 60%-80%)。 ...

May 26, 2022 · 1 min · jiezi

关于数据中心:探访华为云全球最大云数据中心背后藏着这些黑科技

基础设施即服务 | infoQ 新基建背景下,数据中心作为撑持新基建倒退的重要 IT 基础设施,愈发受到重视。除三大运营商外,BAT 等互联网巨头近年也开始鼎力投入数据中心的建设和布局。近日,InfoQ 记者来到华为云贵安数据中心实地探访,进一步理解 AI 和大数据等技术在撑持超大型数据中心日常运行所施展的作用。 2016 年,华为与贵州省政府签订策略单干协定,数据中心正式投建。目前华为云贵安数据中心一期曾经投入使用,共建设有 9 栋机房,预计将来三到五年还会有更多机房建成。 据华为云营销部长董理斌介绍,贵安数据中心布局为华为寰球最大的云数据中心,全副建成后可包容 100 万台服务器。它也是华为云业务的重要承载节点,次要承载华为云、消费者云和华为外部流程 IT 等业务。“如果以贵州为核心,用一千公里画一个半径,贵安华为云数据中心的服务范畴可能辐射到重庆、广西、广东、云南、四川等周边省份和地区。” 除了建设数据中心以外,华为云贵安数据中心还将承当华为寰球 IT 保护工程师基地、员工培训实习基地的职能。预计将有约 600-800 位 IT 保护工程师对数据中心提供反对与服务,每年还将有大量人员到园区进行全景化实战培训、实习等。 以后,华为云在中国布局了五大数据中心,除了贵安和乌兰察布外,还有京津冀、长三角、粤港澳片区三大外围数据中心。在国内数据中心布局中,华为云次要基于时延来进行数据中心的冷、温、热布局,其中冷服务次要建在低成本中央,温服务贴近沿海的低成本中央,热服务则布局在贴近客户需要的中央。在海内,华为也在欧洲、中东、非洲、亚太、拉美等区域建设了本地数据中心。 在董理斌看来,以后数据中心及相关联产业目前仍处在飞速发展阶段。仅在贵州,华为云就已为超过 800 家贵州企业数字化转型提供服务,全省 62 家省直部门 1438 个数据资源都已上云。而据中国信息通信研究院数据,截至 2020 年底,我国在用数据中心机架总规模超过 400 万架,近 5 年年均增速超过 30%。 但数据中心产业疾速倒退的同时,也带来了能耗大幅增长的问题。据《中国数据中心能耗现状白皮书》,早在 2015 年,全国大数据中心的耗电量已达 1000 亿 kWh,相当于三峡电站全年的发电量;2018 年这个数值迅速俯冲至 1609 亿 kWh,超过上海全年的社会用电量。 能耗问题如何破解? 往年 7 月 14 日,工业和信息化部印发《新型数据中心倒退三年行动计划(2021-2023 年)》(以下简称“行动计划”)明确指出:到 2021 年底,全国数据中心均匀利用率力争晋升到 55%以上,总算力超过 120EFLOPS,新建大型及以上数据中心 PUE 升高到 1.35 以下;到 2023 年底,全国数据中心机架规模年均增速放弃在 20%左右,均匀利用率力争晋升到 60%以上,新建大型及以上数据中心 PUE 升高到 1.3 以下,酷寒和凛冽地区力争升高到 1.25 以下。 ...

March 14, 2022 · 1 min · jiezi

关于数据中心:我厂与张家港市达成全面战略合作共推数据中心和城市智能化转型

5月26日,在深圳举办的“张家港(深圳)翻新倒退单干交流会”上,我厂与张家港市人民政府签订策略单干协定,单方将在数据中心、AI助力智慧城市、工业互联网等畛域增强单干,携手推动新一代信息技术与城市各畛域的交融利用智能化晋升,减速城市经济高质量倒退。张家港市委常委、常务副市长卞西方,百度智能云副总裁黄艳代表单方进行签约。张家港市委书记潘国强,张家港市委副书记、市长韩卫,百度副总裁刘雅雯等缺席并见证签约典礼。 依据协定,单方将以百度云计算(张家港)核心我的项目为外围,合力推动百度云计算中心、百度AI算力核心、百度大脑翻新体验核心及百度数据中心基地等新型基础设施在张家港市的布局建设,撑持当地政企数字化、智能化转型,赋能产业高质量倒退。以云计算、大数据、人工智能平台为依靠,后续单方还将围绕新型智慧城市、智慧医疗、工业互联网等畛域发展宽泛、深度的单干,进一步摸索数字技术在数字政府、城市治理、产业倒退、民生服务方向的智慧化翻新利用,晋升城市精细化管理水平,让城市居民播种更多幸福感。 张家港是江苏省港口工业强市,也是一座凋谢容纳、充满活力的产业型城市。近年来,张家港市锚定“强富美高”新江苏建设总指标,致力抢抓长三角区域一体化倒退、长江经济带高质量倒退、“沪苏同城化”等策略倒退时机,减速推动翻新发明与高质量倒退,获得显著功效。 我厂是领有弱小互联网根底的当先人工智能公司,是寰球为数不多的提供AI芯片、软件架构和应用程序等全栈AI技术的公司之一,被国内机构评为寰球四大AI公司之一。我厂在寰球人工智能专利申请量已超过1万件,其中中国专利9000余件位列第一。AI Cloud间断三次中国市场份额第一。目前,依靠“云智一体”的劣势能力,我厂在智慧城市、智能制作、智慧医疗、智慧金融、智慧能源等畛域均领有当先的产品、技术和解决方案。以此次签约为契机,将来我厂与张家港将携手推动新技术在城市、产业中的新利用,用科技翻新助力晋升张家港城市智能化、数字化倒退程度。 会议期间,围绕数字产业倒退、营商环境共建共享等话题,政企嘉宾还进行了互动交换对话。百度副总裁刘雅雯在对话发言时示意:产业转型降级、经济继续倒退都须要数字化、智能化的新动能,产业智能化利用和AI技术之间存在着鸿沟,这正是我厂的劣势能力和发力方向。在合力助推高质量倒退的方向上,我厂与张家港具备统一的价值观和发展观。此次单方达成策略单干,将张家港的区位劣势、产业劣势及营商环境劣势,和我厂在云计算、人工智能、大数据方面的技术劣势和产业链资源能力进行充沛交融,强强联手,对将来数字产业建设、数字经济倒退都将带来微小的设想空间。

May 28, 2021 · 1 min · jiezi

关于数据中心:数据中心太耗电送你一个节能神器

摘要:其实对于节能,传统技术也是做了“十二分”的致力。然而在技术一直演进的状况下,传统节能技术还是存在问题,如何破?本文分享自华为云社区《数据中心节能?来试试华为NAIE数据中心节能技术!》,原文作者:启明 。 一、3 年电费耗费,可再建造一个数据中心!1.1 科技驱动,推动数据中心市场继续高速倒退国际惯例,先介(bai)绍(du)一(bai)下(ke)“数据中心”:数据中心是寰球合作的特定设施网络,用来在 internet 网络基础设施上传递、减速、展现、计算、存储数据信息。一个数据中心的次要目标是运行利用来解决商业和运作的组织的数据。 现如今,咱们曾经处在一个全联接的世界。从 2015 年到 2025 年,依据华为 GIV 的数据预测,寰球智能终端联接数将从 70 亿激增到 400 亿,寰球联接数也将从 200 亿激增到 1000 亿。而在硬件数和联接数激增的背地,是数据流量的爆发式增长:年数据流量将从 9ZB 以 20 倍的速度涌至 180ZB(见图 1)。 图 1:数据来源于 HW GIV 数据流量的极速增长,加上政府对各新兴产业的鼎力搀扶,数据中心的倒退建设将迎来高速倒退期间,依据 MarketsAndMarkets 的数据统计预估,寰球数据中心的价值将从 2017 年的 130.7 亿美元增长到 2022 年 465.0 亿美元(见图 2),这其中的 CAGR(Compound Annual GrowthRate,复合年均增长率)高达 28.9%。其市场规模及市场价值,显而易见。 图 2:数据来源于 MarketsAndMarkets 1.2 高电力耗费,数据中心产业“背地的暗影”“阳光背地总有暗影”。高产业价值的背地,是高电力耗费。作为“数据中心”,能够设想:一个大型机房,外面稀稀拉拉地布满了各式各样的机柜、服务器等。数据中心的后期根底建设和投资,将会是一笔巨额数字。而一旦启动应用,这其中的电费,又将是一个天文数字。咱们能够用一个大型数据中心 10 年的经营老本状况来看看这其中的电力应用状况: 从下面的表格能够看到,该数据中心每年电费将近 3600 万,其中有 70%都用于电费,而 70%的电费中,又有 19%用于制冷上。且据 2017 年统计,寰球数据中心用电量占寰球用电量的 3%,年增长率超过 6%,相当于 30 个核电站;仅中国的数据中心用电量每年就有 1200 亿千瓦时,超过三峡电站 2017 年全年发电量(1000 亿千瓦时)。计算下来,数据中心 3 年的电费能够再造一个数据中心! ...

May 14, 2021 · 2 min · jiezi

关于数据中心:数据中心大二层网络技术大揭秘

【摘要】 传统的三层数据中心,置身虚拟机化的浪潮中,其中改革翻新,就在此篇文章中一窥到底吧。传统数据中心三层组网架构政府部门或者金融机构等大型企业的数据中心中服务器的规模可能会达到2000台以上。个别状况下,数据中心网络都会进行服务器的分区治理,单个业务分区规模不大,此时能够采纳下图所示的规范三层架构。  在这种组网形式中,核心层是整个数据中心网络的枢纽,外围设施通常部署2-4台大容量高端框式交换机,能够是独立部署,也能够通过CSS、iStack虚拟化技术后成组部署。分区内的汇聚层和接入层通过传统CSS、iStack、xSTP等技术实现二层破环,也可在汇聚层和接入层利用纵向虚拟化技术(如SVF)实现接入层的简略治理及节点扩大。 为什么采纳这种架构,因为架构成熟(废话),二三层网络技术成熟,部署成熟,也合乎数据中心分区份模块的特点,总体来说,是运行了多年的成熟实惠大礼包,买不到吃亏,买不到受骗。 挑战来了随着20年代初的慢慢远去,网络人能够称心的回忆,他们曾经搞定了网络协议的大部分问题。 但凡能被组件化的,能被分布式的,能被备份的、降级的、平安加固的,从不间断转发(NSF)到不间断路由(NSR)最初到不间断服务(NSS),被性能优化的(各种FRR),被组网的(局域,广域)。路由(RIP,OSPF,ISIS,BGP)不行加标签(MPLS),标签不行加VPN成隧道(GRE,TE,VPLS, VPWS),但凡能做的都做到了,整个网络丁丁当当,忙忙碌碌。提了一堆广泛重要神气的国际标准,RFC写的整整齐齐。当整个三层协定几个人就能够保护的时候,网络人曾经感觉除了硬件更强以外,没多少事能够干了。 辩证思维教育通知咱们,完满事物是不存在的。虚构技术就像那只蝴蝶的翅膀,悄悄的扇了一下,数据中心的三层组网架构就轰然倒塌了。 虚构技术把一台服务器虚化成了多台逻辑服务器,每个VM都能够独立运行,有本人的OS、APP,以后也有本人独立的MAC地址和IP地址,它们通过服务器外部的虚构交换机(vSwitch)与内部实体网络连接。 对于虚构技术,数据中心怎么看也只是个吃瓜大众,吃着吃着,啊~,发现自己是瓜。 这是因为虚构技术有个伴生的需要:虚拟机动静迁徙。就是在保障虚拟机上服务失常运行的同时,将一个虚拟机零碎从一个物理服务器挪动到另一个物理服务器的过程。大白话就是动静迁徙就是虚拟机搬家(不是同一个物理机),搬家的时候,须要最终用户对搬家无感,虚拟机持续失常的干活,离岗不到职,真正的全天时全天候无休为用户服务。管理员可能在不影响用户失常应用的状况下,灵便调配服务器资源,或者对物理服务器进行培修和降级。 为了保障迁徙时业务不中断,就要求在迁徙时,不仅虚拟机的IP地址不变,而且虚拟机的运行状态也必须保持原状(例如TCP会话状态),所以虚拟机的动静迁徙只能在同一个二层域中进行,而不能跨二层域迁徙。虚拟机心想我可不是小灵通的命,要跨AZ,要跨Region,要冰激凌,要人民币,要走向真正挪动的星辰大海。 大二层网络面临的问题既然要走向星辰大海,那就把本人的地盘扩充成大海。把所有服务器都纳入一个二层网络(大于10000台以上)。纳入之前,咱们先剖析一下大二层网络的要求点:因为虚拟机迁徙这个间接需要必须要求虚拟机在迁徙前后放弃IP地址不变,那么所有服务器必须要通过一个二层网络进行连贯。那么这个二层网络有什么要求呢? 1:大,在一个数据中心服务器数量动辄上万甚至十万级别的明天,能够设想,咱们须要一个足够大的二层网络来连贯数量微小的服务器。 2:快,服务器数量的减少导致业务吞吐量减少,东西向流量减少,要求网络中每个节点都能提供线速转发的能力,并且网络中的链路必须尽可能的都利用起来,保障数据中心的网络带宽,数据的转发最好是能通过一条最短的门路来进行。 先看看传统的VLAN+xSTP二层技术不能把所有服务器都划到同一个二层域。为了提供网络的可靠性,个别会采纳设施冗余和链路冗余,传统架构因为成熟有加,财大气粗,往往是两种措施都采纳。后果就是环路(图中蓝色圈,红色圈)无处不在。二层网络处于一个播送域下,又没有TTL,有限循环之下,就会造成播送风暴,霎时导致端口阻塞和设施瘫痪。 VLAN通过划分VLAN来放大播送域的规模来减小环路,STP(各种STP家族,俗称xSTP)次要是切断备份数据转发缩小环路,两者联合,对于小二层(主机数量不超过1K)够用了。然而大二层中,VLAN是放大网络,天生就和扩充网络相克。xSTP的节点过多,网络收敛性能会成指数级降落,成为扩充网络的瓶颈。 总体来说,传统三层网络架构不反对大二层网络,大二层网络路在何方? 如何实现大二层网络在最近十来年,很多人提出了大二层的网络解决方案,基本上都是围绕着怎么解决环路,总结演绎一下,总体有三个不同的思路 化繁为简坐二学三Overlay化繁为简产生环路的起因是冗余链路和冗余设施,树形构造是没有环路的。那么有没有什么方法在设施、链路冗余的根底上又放弃树型网络的构造呢? 这样既能保障可靠性,又人造无环。基于这样的构想,简略粗犷、间接无效的网络设备虚拟化技术呈现了。 TOR套餐模式:通过网络设备虚拟化(多虚一)和链路聚合技术,简化治理和物理配置,进步带宽利用率,疾速故障收敛和不便扩容。 EOR套餐模式:SVF,将不同网络档次、不同类型的交换机多虚一,通过纵向整合,网络简化成果也非常明显,构造更加扼要清晰。 毛病也很显著:重叠扩展性是有限度的,协定是厂家公有的。 坐二学三认真钻研大二层网络的特点,总结的需要是:须要一个能反对足够多的设施,天生没有环路,并且链路利用率很高的协定,来部署在咱们这个大二层网络中。有没有感觉,咱们如同在哪儿见过,你记得吗,记得那是一个夏天盛开如花。不是,错了,是路由!具体点,外部网关协定不就是干这个事件的吗? 套餐模式:TRILL(ISIS亲妈设计)/SPB根本都是采纳ISIS作为其管制屏幕协定进行拓扑学习计算,用MAC-in-MAC在区域内进行报文传输。 这两个协定的具体技术能够在后续专门讲一下,在这就不开展介绍了。 毛病:对于TRILL和SPB,不同的厂商有这各自的反对,还在分派中。然而有一点是明确的,这些技术的部署和施行都是在网络设备上进行的,与服务器等IT设施无关,CT厂家全程Cover,IT厂商只是个看客。 Overlay如果TRILL/SPB是学习三层协定先进的技术,那Overlay就是伪装成本人个儿就是三层,名正言顺的披上三层的外衣,将大二层网络叠加在现有的根底网络之上,瞒天过海,暗度陈仓。 Overlay通过用隧道封装的形式,将源主机收回的原始二层报文封装后在现有网络中进行通明传输,达到目的地之后再解封装失去原始报文,转发给指标主机,从而实现主机之间的二层通信。 隧道封装是很成熟的技术,然而,个别只能点对点建设隧道。如果有很多主机须要二层通信的话,就须要一个全连贯的网络。真头大。既然点对点不行,那就面对面?交换机期待已久的机会来了。 家喻户晓,“二层交换机”是能够实现下挂主机之间互相二层通信的,而且主机从“二层交换机”的一个端口迁徙到另一个端口时,IP地址是能够放弃不变的。这样不就能够实现大二层网络的需要了吗? Overlay的典型技术次要有VXLAN、NVGRE、STT等,简略说一下阵容最奢华的VXLAN技术,它是VMWare和CISCO提出的Overlay技术计划,采纳Mac in UDP的封装形式,虚拟机收回的数据包在VXLAN接入点(被称为VTEP)加上VXLAN帧头后再被封装在UDP报头中,并应用承载网络的IP/MAC地址作为外层头进行封装,承载网络只须要依照一般的二三层转发流程进行转发即可。 依据这个设计,是不是能够看出,VXLAN人造能够反对跨数据中心的大二层网络的。在这种架构下,无论VM是在本数据中心内迁徙,还是跨数据中心迁徙,都无需变更IP地址。目前在华为云根底IaaS网络数据面全副VXLAN化。 VXLAN技术VXLAN和NVGRE等技术是服务器虚拟化的IT厂商主推的大二层网络技术计划,这也很好了解,对于VXLAN和NVGRE技术来说,报文的封装/解封装都是在服务器外部的虚构交换机vSwitch上进行的,内部网络只对封装后的报文进行一般的二层替换和三层转发,所以技术控制权都在IT厂商手里,CT厂商就是一个路人看客了。然而当把Overlay网络的接入点部署在TOR等网络设备上时,就须要网络设备来实现VXLAN和NVGRE的报文封装。一方面对于虚拟化的服务器来说,网络设备的性能还是要比vSwitch强很多的,用TOR等设施来进行封装,性能更好一些。 另外一方面,在TOR上部署Overlay接入点,也能够把非虚拟化的服务器对立纳入Overlay网络。CT和IT厂商的谐和共赢场面终于到来了。 后续关注本文简略了介绍了大二层网络的由来和根底的大二层网络解决方案,在数据大集中的背景下,企业产生的数据量越来越大,数据的重要性也越来越高。出于灾备、用户就近接入、晋升资源利用率等方面的思考,在前期的文章中,会介绍跨数据中心的网络互联网计划。 点击关注,第一工夫理解华为云陈腐技术~

January 6, 2021 · 1 min · jiezi

关于数据中心:前浪传统数据中心的网络模型

个推运维平台高级网络工程师 山川 随着互联网公司规模的扩充,企业对老本管制和数据安全的需要越来越高,大部分公司往往会自建机房,而非租用云服务器。个推在互联网数据中心(Internet Data Center,简称IDC)网络布局和经营方面也经验了几次的迭代和变迁,同时,咱们也对数据中心网络倒退的历程进行了总结。 咱们将围绕IDC网络经营布局的根本要求、传统PC时代的网络架构、挪动互联网和大数据时代的IDC网络结构、罕用服务器接入技术四个局部对数据中心的倒退历程进行拆解。本文将先与大家分享传统数据中心的网络模型。 01数据中心网络建设的根本要求数据中心网络建设根本要求能够演绎为四点: a)   带宽和流量模型的适配 “南北”流量通常指的是进入和来到数据中心的流量。而服务器到服务器间的交互流量,通常称为“货色”流量。传统的“树形”拓扑中“南北”流量占比拟高,当须要更大带宽时,咱们往往能够通过降级设施的线卡构造或应用端口密度更高的设施来满足要求。古代数据中心内常见的利用,例如Hadoop等,大多采纳“货色”流量,其某些特定集群之间须要复制大量数据或进行虚拟机迁徙。因而,传统“树形”拓扑不太实用于当初IDC的互联网利用。 b)   资本收入最小化与网络相干的资本收入(CAPEX)所占比重比拟大,仅基础架构就占据了整个数据中心约10-15%收入。只管相对老本的收入是不可避免的,但咱们还是能够采取一些形式来缩小相对老本的收入。 有以下两种办法: 从洽购层面来看,咱们能够通过设施标准化来降低成本:比方应用雷同类型的设施甚至应用同一种型号的设施,这样咱们能够通过批量定价、批量洽购的形式,缩小设施保护和备件购买老本。 从网络布局层面来看,网络层协定的设计要兼容多厂家,咱们能够通过引入多个网络设备供应商,采纳竞价的形式来降低成本。 c)   经营收入最小化数据中心规模越大,企业经营收入老本就越高。据无关统计,网络设备越多,故障率越高。在网络管制层面上,设计越简洁,性能越稳固,这样咱们就能够最大限度地缩小软件问题相干的故障。 最小化经营收入的一个关键点在于缩小网络中故障域的大小。网络(这里指的是以太网络)故障次要是由播送或未知单播流量引起的,咱们通过应用全布线设计,能够大大减少数据立体故障域的大小,行将它们限度为网络层次结构中的最低级别。然而,这样的设计不能解决分布式管制立体故障的问题,所以网络设计上咱们须要放弃简洁,尽量减少管制立体协定的应用以尽可能防止协定交互问题的产生、升高网络整体故障产生的频率。此外,咱们还应最大限度缩小网络协议的应用,以缩小测试老本,进步人效。 d)   流量负载平衡的正当利用应用程序负载平衡对于任意一个数据中心而言,都是至关重要的性能。在传统流量工程中,负载均衡器是流量转发门路中的专用设备。网络布局能够帮忙组内多台负载均衡器正当调配流量。任意播前缀[ RFC4786 ]和等价组合多路径(ECMP)性能可用于实现网络流量调度。 **02**传统web时代的网络架构 首先咱们要明确一点:大二层网络基本上针对的是数据中心场景,旨在解决数据中心虚拟机动静迁徙这一特定需要。对于园区网之类的网络,大二层网络架构适用性不强(除了某些非凡场景,例如WIFI漫游等)。 **传统二层架构** 为了保障网络的高可靠性,传统的二层架构在利用于数据中心场景中,网络设计上往往采纳二层冗余链路,而因为传统二层协定没有任何防环机制,这样的做法容易引发二层环路和播送风暴。为了解决环路问题,咱们采纳了两种技术:VLAN技术和xSTP技术。而为了解决播送风暴问题,咱们采纳了如下两个解决方案: 1)通过划分VLAN放大播送域的规模 VLAN技术能够把一个绝对比拟大的物理二层域划分成许多较小的逻辑二层域,这种逻辑二层域被称为VLAN。同一个VLAN内能够进行二层通信,不同VLAN之间则进行二层隔离,这样播送的范畴就能够管制在一个VLAN内,不会扩散到整个物理二层域。 VLAN尽管能够在肯定水平上升高播送风暴的范畴和强度,但还是无奈避免VLAN内播送风暴的造成(只有同一个VLAN内还有环路)。 2) 通过破环协定避免环路的产生 咱们从播送风暴造成的根本原因动手,能够更好地解决播送风暴问题。因为播送风暴是呈现环路才导致的,因而,通过肯定的伎俩,避免环路呈现就能够无效防止播送风暴的产生。 为避免环路呈现,并保障网络的可靠性,咱们能够将冗余设施和冗余链路变成备份设施和备份链路,即在失常状况下,将网络冗余的设施端口和链路进行阻塞,使端口与链路长期不参加数据报文的转发。 只有以后转发的设施、端口、链路呈现故障,导致网络不通时,冗余的设施端口和链路才会被关上,使网络恢复正常。实现这些自动控制性能的协定咱们称为破环协定,其中最罕用的协定则是生成树协定(xSTP)。 当然,也有一些其余的破环协定,比方SEP、RRPP等等,其本质思维和xSTP协定统一。 3) 传统的二层技术网络规模之窘境下面提到传统二层网络最次要的技术是VLAN和xSTP,但这两个技术存在以下问题。 a.  VLAN的问题正如前文所述,VLAN的核心思想之一,就是通过划分VLAN来放大二层域的范畴和规模,从而管制播送风暴的规模。而大二层网络又要求把所有服务器都纳入同一个二层域。这和划分VLAN的初衷是南辕北辙的。所以VLAN技术就无奈很好地反对大二层网络。 b.  xSTP的问题xSTP能够解决大二层网络的环路问题,但因为xSTP的收敛性能等起因(如果xSTP的节点过多,那么整网的收敛速度会呈指数级降落),所以个别状况下xSTP的网络要求其交换机数量不能超过100台。同时因为xSTP须要对冗余设施和链路进行阻塞,这也在肯定水平上升高了网络资源的带宽利用率。故xSTP协定无奈很好地满足大二层网络的需要。 4) 小结总之,因为前文所提及的制约条件,基于VLAN+xSTP技术的二层网络(作为大二层网络的一种),其所能包容的服务器数量,通常不会超过1K。这与真正意义上大二层网络至多能包容一万台以上主机的要求差距甚远。 设施虚拟化架构传统的xSTP技术无奈无效解决大二层环境中的环路问题,于是一种新的技术便应运而生——网络设备虚拟化技术。所谓网络设备虚拟化技术,就是将互相冗余的两台或多台物理网络设备组合在一起,虚拟化成一台逻辑网络设备,在整个网络中只出现为一个节点。 只有网络设备虚拟化与链路聚合技术相配合,就能够把原来的多节点、多链路的构造变成逻辑上单节点、单链路的构造,从而无效防止环路问题。 网络设备虚拟化+链路聚合技术构建的二层网络人造没有环路,其规模仅受限于虚构网络设备所能反对的接入能力,只有虚构网络设备容许,二层网络的规模就不受限制。 然而网络设备虚拟化计划也存在肯定的毛病: 1)这些协定都为厂家公有,因而咱们只能应用同一厂家的设施组网。 2)因为重叠零碎自身的规模限度,目前最大规模的重叠/集群大略能够反对接入1-2万主机,对于超大型的数据中心来说,就显得力不从心了。然而对于个别的数据中心而言,还是能够熟能生巧地运行的。 随着挪动互联网的蓬勃发展,大数据技术利用变得越来越遍及,传统时代的IDC架构难以进行动静扩大,Clos架构因为灵便和老本较低的劣势,被越来越多的大型互联网公司所采纳。 《大数据时代的IDC网络结构和服务器罕用接入技术(下篇)》咱们将会带大家理解Close架构的核心思想及个性、服务器罕用接入技术类型,心愿能给大家带来更多启发。

October 8, 2020 · 1 min · jiezi