关于负载均衡:消失与存续应用交付行业的跌宕演进

90次阅读

共计 6655 个字符,预计需要花费 17 分钟才能阅读完成。

1996 年,一家名为 Foundry Networks 的公司在硅谷成立,次要研发售卖交换机、路由器等网络硬件产品。

那年是“互联网泡沫”造成的初期,美国 IT 行业的新公司如雨后春笋。能够设想,过后这家公司的成立,兴许并没有溅起太大的水花。

但在短短三年后,Foundry 就在纳斯达克上市,并创下多项纪录,成为华尔街最受注目、最具成长后劲的初创企业,甚至入选过美国 500 强。

转瞬又几年,时局渐变。2008 年,Foundry 被 Brocade 以大概 26 亿美元的价格收买,这场收购案兜兜转转数月才最终敲定,还因为股票价格上涨而被压价。到现在,Foundry 已泯然众人。

扛住了泡沫破裂,却没扛得住收买。

当初决定缩小 4-7 层交换机产品投入的 Foundry 创始人 Bobby Johnson,看到与 Foundry 同年成立、当初如日中天的老对手 F5,不知会作何感想。

4-7 层交换机这个词,对于初入网络行业的敌人可能比拟少见,明天,大家或者更习惯它的另一个称说——负载平衡。

作为最早推出负载平衡设施的厂商,当年的 Foundry 前程似锦。依照个别的剧本,由负载平衡概念演进而来的利用交付,理当是他们的拿手好戏。

但变动是永恒的,历史总会走上一条少数人未曾构想的路线——包含技术自身。

如何了解利用交付

随着数字化过程一直被推动,利用大量涌现、访问量飙升,为了保障利用和内容的平安高效拜访,利用交付技术便应运而生。

利用交付部署在网络和利用之间,将两者深度联合、无效协同,致力于将利用以高效、平安、稳固的形式交付给最终用户。为了实现这一指标,利用交付交融了负载平衡、利用平安治理、利用减速、流量管制等多种技术。

在 IT 利用架构中,利用交付位于互联网与数据中心之间的咽喉要道,因而领有重要的策略价值。

责任越大,挑战越大。对于企业来说,这种挑战可能更多在于如何更好地、正当地施展利用交付的价值,为业务利用赋能。而对于利用交付自身来说,挑战则在于如何更好地把握技术倒退方向。

当咱们心愿对将来趋势有一些洞察时,回顾利用交付的倒退历程,是很有必要的。

在利用交付之前

在互联网的古早期间,用户访问量少之又少,往往只靠单台服务器就能满足对外服务需要。但随着互联网的遍及,越来越多的用户接入网络,业务流量也天然水涨船高。

当单台服务器无奈应答流量增长、撑持服务运行的时候,通常有两种解决办法:

  1. 换更好的服务器
  2. 加更多的服务器

也就是咱们常说的纵向扩大(晋升单台服务器的计算、存储、网络等资源配置)和横向扩大(通过减少多台服务器同时工作,满足大型利用解决需要)。

第一种办法兴许够简略粗犷,但单机性能总是有下限的,而且少数状况下,机器性能的晋升与价格并非呈反比。因而,以多台服务器组成集群,同时承载业务利用,作为一种更理论的解决方案被大家广泛承受。

但此时又面临一个新的问题,业务负载如何调配?多台服务器之间如何协调?

首先咱们看看若不做协调会产生什么?业务流量达到后端时得不到无效管制,呈现工作调配不均的景象:有的服务器曾经超负荷运行,有的却处于闲暇状态。这岂但造成了极大的资源节约,同时也会影响用户的拜访体验。

负载平衡的呈现,就是为了解决这一问题。它能够构建在现有的网络结构之上,作为流量入口,对流量进行调度,将其平衡地调配到集群中的不同机器上。

DNS 负载平衡实现

最后,实现负载平衡采纳的是 DNS(Domain Name System,域名零碎)办法。

DNS 实质上是一个分布式数据库,可能将域名和 IP 地址互相映射,使互联网拜访更不便——人们在拜访网站时,只需记住网站的域名即可,而无需记住简单的 IP 地址。

利用 DNS 实现负载平衡,是通过 DNS 服务中的随机名字解析来实现的,在 DNS 中为多个域名地址配置同一个名字,查问到这个名字的客户机将在解析时失去其中一个地址。从而使拜访同一网站的不同的客户机失去不同的域名地址,也就拜访了不同的服务器,从而达到负载平衡的目标。

这是一种简略而无效的办法,施行容易,无需投入太多老本,而且宽泛实用。

但 DNS 办法存在一个致命的问题:它实现的是相对的均匀,将来自互联网的拜访申请齐全均匀地调配给后端服务器。它无奈辨别服务器的性能差别,也不能反映服务器以后的运行状态。

事实上“平衡”并不等于“均匀”,将业务流量均匀地调配给服务器而不思考其性能,并不能从实质上解决负载不平衡的问题。

而且,若其中一台服务器宕机,DNS 是无奈获知的,它依然会将流量调配过来,这将导致客户无奈取得响应。

因而,DNS 负载平衡的利用场景比拟无限。

基于网络替换技术的负载平衡

为了达到真正意义上的负载平衡,行业把眼光转移到了网络替换技术,并基于 OSI 模型(Open System Interconnection Reference Model,开放式系统互联通信参考模型),在不同网络档次上实现负载平衡性能。

OSI 模型由国际标准化组织 1981 年提出,是一个全球通用的网络规范框架,它将计算机网络构造划分为七层:

  1. 物理层
  2. 数据链路层
  3. 网络层
  4. 传输层
  5. 会话层
  6. 表示层
  7. 应用层

依据在 OSI 不同档次上的实现,有以下几类负载平衡:

  1. 二层负载平衡:基于数据链路层,采纳虚构 MAC 地址的形式,内部对虚构 MAC 地址申请,负载平衡接管后调配后端理论的 MAC 地址响应。
  2. 三层负载平衡:基于网络层,采纳虚构 IP 地址形式,内部对虚构 IP 地址申请,负载平衡接管后调配后端理论的 IP 地址响应。
  3. 四层负载平衡:基于传输层,次要通过报文中的指标地址和端口,再加上负载平衡设施设置的服务器抉择形式,决定最终抉择的外部服务器。
  4. 七层负载平衡:基于应用层,也称为“内容替换”,次要通过报文中的真正有意义的应用层内容,再加上负载平衡设施设置的服务器抉择形式,决定最终抉择的外部服务器。

与二层、三层相比,四 / 七层负载平衡更为常见。现在咱们提到负载平衡时,也更多是指后者。

因为实现档次的不同,四层负载平衡与七层负载平衡在性能、安全性、功能性、复杂性等方面有着微小的区别。

最显著的区别是,四层负载平衡架构绝对简略,易于治理,且资源耗费更低,在网络吞吐量及解决能力上更有劣势。

而七层负载平衡笼罩了 OSI 模型定义的所有网络档次,它能更灵便、更全面地对网络申请进行批改,实现更智能的负载平衡,且具备更强的平安防护能力。但与之绝对的,资源损耗也会更高。

从负载平衡到利用交付

负载平衡呈现的期间,正是互联网投机泡沫开始收缩的期间,许多着力开发相干产品的守业公司纷纷涌现进去,如 Foundry、Alteon、Arrowpoint、NetScaler、F5 等,竞争格局强烈,颇有一股群雄并起的滋味。

正如前文所述,Foundry 公司最早提出了四 / 七层交换机概念并推出产品,也就是公布于 1998 年的 ServerIron XL。这款产品在过后领有很大的热度,以至于,即便在 Foundry 被 Brocade 收买后,也还继续销售了一段时间。

过后的大部分负载平衡初创企业,最终都没有逃过被收买的命运。导致更大区别的起因可能在于,收买是产生在泡沫破裂前还是破裂后。一个典型的案例是 Alteon 的两度易主:2000 年热度最高时,Nortel 以 78 亿美元的交易总额收买了 Alteon;不到 10 年后,Nortel 又将 Alteon 业务发售给 Radware,尽管单方没有公开交易额,但有传言称,Radware 给 Nortel 开出的价格也不过数千万美元。

时至今日,咱们不能果断地将那些企业最终失败的起因,简略归结为互联网泡沫的破裂,但将其视为导火索兴许并不为过。

负载平衡的市场空间在于互联网的扩张、流量的减少,而当互联网泡沫破裂时,负载平衡产品销售量大幅降落,让所有厂商都面临着微小的生存挑战。

因为四 / 七层产品的研发、技术支持投入都远高于架构更为简略的二 / 三层产品,为了度过艰巨期间,包含领头羊 Foundry 在内的许多厂商都做出了膨胀四 / 七层产品的决定。在资格较老的厂商中,只有和 Foundry 同年成立的 F5 保持在这一畛域继续投入。

当互联网重振旗鼓之时,四 / 七层产品的价值失去宽泛认可,市场得以振兴,但此时的 F5 曾经没有对手了。

正是这个期间,随着电子商务、流媒体网站等利用的流行,业务利用对网络提出了更高的要求,单纯的负载平衡已无奈满足需要。

通过交融利用减速与优化、流量治理等技术,负载平衡开始向利用交付演进。

利用交付的技术外围

随着架构的倒退,利用交付的技术堆栈在负载平衡的根底上失去了极大的丰盛,退出了许多新的技术手段,如致力于实现利用减速性能的 TCP 优化、连贯复用、缓存压缩、SSL 减速等,以及保障利用平安的 Web 利用防火墙、协定荡涤、DDOS 防护、业务加密等。

如此多的简单名词,可能会让不理解技术的敌人目迷五色。事实上,利用交付技术架构的演进始终围绕它的基本指标开展:将利用以高效、平安、稳固的形式交付给用户。

能够说,所有技术手段的应用,都是为了实现这一指标。因而,咱们或者能够概括性地将利用交付的核心技术分为以下几个方面:

  1. 利用减速:次要实现广域网优化减速,通过一系列技术来提供跨地区、跨运营商的疾速近程网络拜访,节约互联网带宽,进步现有网络环境中的利用拜访效率。
  2. 利用平安:交融平安网关的性能,通过建设全面的平安规定与策略,笼罩网络层、应用层,施行齐备的平安防护,保障利用的平安拜访。
  3. 高可用性:以负载平衡为主,同时退出健康检查、会话放弃等多种性能,从流量治理的角度实现集群的高可用,确保利用安稳牢靠运行。

在应用环境压力一直晋升,流量日益加剧的趋势下,利用交付技术根本依照以利用为导向、围绕以上三大外围诉求倒退新技术的路线后退。

目前为止,咱们所探讨的,都是以本地数据中心部署为主的利用交付。在业内对利用交付的概念达成共识之后,至多支流上维持着这种倒退法则——直到云计算开始流行,又一场微小改革也因而来袭。

从利用交付到利用公布

进入挪动互联网时代,利用数量爆发式增长,企业的竞争环境愈发强烈,须要时刻放弃业务翻新,一直改善用户体验,并且疾速地实现落地,方能激流勇进、实现商业胜利。

这对 IT 架构提出了微小的挑战,包含如何实现利用现代化、如何应答 IT 复杂性等等。与传统数据中心相比,云计算的灵活性、扩展性劣势,更可能帮忙企业充沛应答这种挑战,因而成为支流趋势。

云计算与大数据、人工智能经常被称为数字经济时代的三驾马车,对整个行业的将来倒退有着深远的影响。当波及到利用交付畛域,兴许是因为云计算更偏差于 IT 底层基础架构的改革,所以对利用交付技术倒退的影响最为显著,与之绝对的,大数据和人工智能对利用交付的影响,则更多体现在如何晋升产品服务能力上。

2019 年,F5 收买了开源 Web 服务器软件 Nginx 的商业化公司。Nginx 在世界上广受欢迎,包含 Instagram、Neflix、Airbnb 等在内的寰球大多数网站利用中都有 Nginx 的身影。其优良的负载平衡、流量管制等能力,在云微服务架构中同样可能施展微小价值。F5 收买 Nginx 的用意非常显著——减速本身在软件和云方面的改革,放弃在云时代的当先性。

同样是在这一年,云原生基金会(Cloud Native Computing Foundation,CNCF)成立了利用交付畛域小组(Application Delivery SIG),心愿明确并解决利用交付生命周期的关键环节和外围问题,同时优化云原生场景下的利用架构。CNCF 由谷歌牵头成立,势头正盛的 Kubernetes 就是它的第一个开源我的项目。CNCF 的下场,从某种角度看,也代表着“云原生利用交付”的减速倒退。

而在通理智云总经理吴若松看来,随着云计算和微服务架构的演进,咱们 将迎来“利用公布”的时代。利用公布起源于利用交付,却又和利用交付有极大不同。

利用公布的技术外围

首先咱们能够简略地概括,传统利用交付与利用公布的最大差异,在于两者别离面向的是“稳态”与“敏态”这两种不同的利用场景。

稳态的次要诉求是保障利用可能被高效、牢靠、平安地拜访,而敏态则在此基础上,心愿以更加疾速、麻利、灵便的形式公布利用和服务。

另一方面,两者最直观的区别在于:从整体架构上看,利用交付的两端别离是用户与数据中心,而利用公布的两端则是用户与云。

这也导致了利用交付时代更重视解决南北向通信的压力,而利用公布——出于云服务架构的个性——须要更专一于云计算中的东西向通信。

  1. 南北向通信,解决集群和内部的通信问题,实现核心网的性能。
  2. 东西向通信,解决业务外部各个微服务之间的通信和链路治理。

目前利用公布的核心技术有:

  1. 蓝绿公布 – 在公布某利用的新版本时,并不进行旧版本,若新版本运行稳固,便将流量从老版本切换过去,若新版本呈现问题,也能够及时切换回旧版本。这样能够缩小版本公布对利用运行的影响。
  2. 灰度公布 – 顾名思义,这是一种黑白之间平滑过渡的利用公布形式。新版本公布后,先将大量流量切换过去,对新版本运行状况进行察看剖析,当确认无误后,再逐渐将更多的流量切换到新版本上,直到实现 100% 的切换,齐全替换旧版本。灰度公布也称为金丝雀公布,是进行 A/B 测试的重要伎俩。
  3. 熔断机制 –“熔断”一词多呈现于股市,应用服务中的熔断机制,实质上与股市并无差别,都是为了管制危险。云微服务之间往往存在依赖关系,如果其中某个服务调用呈现高提早等问题,将导致其余服务也呈现问题,甚至可能导致业务零碎不可用。施行熔断机制,可及时检测问题,对该服务执行熔断,防止造成更大范畴的影响,同时开释资源。
  4. 业务编排 – 通过制订策略管制业务流量的转发,依照策略所定义的程序,对流量进行调度,以策略化的形式兼顾整个网络。

可能看出,以上这些技术的指标,都是为了建设敏态应用环境下的一种更疾速、灵便、麻利的利用公布机制。在云计算趋于成为常态的明天,充分考虑云架构个性,构建“云原生”的利用公布,已成为一大趋势。

利用交付不会登场

但咱们始终须要明确的是,“演进”并非“代替”。如果在新的技术理念呈现时,就将此前曾经成熟稳固的传统技术实际淘汰,岂但厂商不许可、企业不许可、市场也不许可。传统利用交付,仍有存在和倒退的必要。

站在技术层面,将来利用公布尽管次要面向敏态环境,但如上文所述,它仍旧是在稳态根底上实现的。企业对利用减速、利用平安以及高可用性的诉求,并不会因为进入云时代而隐没,只会随着技术的倒退而一直进步。

产品状态上,传统利用交付设施依然具备很大的需要空间,特地是在国内。

从“新基建”到“东数西算”,作为 IT 基础设施的要害组成部分,面对全国各地日益增长的网络流量,利用交付设施在流量治理、平安防护等方面的价值,可能在数据中心施展微小的作用,为织就全国算力一张网、构建新型算力网络体系贡献力量。

此外,一个重要的事实起因是,出于数据安全、合规性、现有 IT 流程、提早敏感型利用等各方面的因素思考,许多国内企业并不能承受私有云——IDC、Gartner 等行业钻研机构都曾在其报告中形容过这一现状——而是采纳本地公有云部署为主的模式。

即使是在将来,与齐全采纳私有云相比,混合云更像是一种易于为人们所承受的架构。在公有云环境下,对传统利用交付设施的需要还会继续。

就像负载平衡从未登场一样,利用交付也不会登场。

始终游到淡水变蓝

人们经常用“蓝海”和“红海”来形容市场空间的状态,毫无疑问,与曾经十分成熟的利用交付相比,利用公布更像是一片蓝海。

但当咱们把焦距推向十多年前时,与负载平衡相比,利用交付则是蓝海;往更久远处推,负载平衡也曾是蓝海——从 Foundry 到 F5,不同的时代书写了不同的故事。

但至多咱们能够确定,蓝海永远是领先者的,也永远造就领先者。

乏味的是,从负载平衡向利用交付演进的历史来看,深刻蓝海的领先者,又仿佛必须曾经验红海的洗礼。当然,这里更深层起因是,在红海中锤炼进去的弱小“肌肉”——足够雄厚的技术实力。

云科透明湖利用交付网关,立足于利用交付,凭借多年技术实际积攒,为许多国内客户构建了平安、高效、可控的利用交付平台。云科透明湖系列产品能实现利用和网络的无效协同,保障利用零碎可能被平安、高效、可控地拜访,在整个 IT 架构中有着重要的策略价值和丰盛的利用场景。作为负载平衡畛域寰球当先品牌 f5 的最佳协同者,云科透明湖同时也是信创负载平衡的当先品牌。

信创就选云科透明湖。

在一直锤炼本身肌肉的同时,云科透明湖也俯视着将来,向云时代的利用公布前行,致力于买通云管边端,帮忙客户实现架构演进、拥抱敏态应用环境。在数字经济这片充斥不确定的瀚海中,咱们岂但须要时常磨炼本身,也要继续激励本人向更远处游去。

“始终游到淡水变蓝。”

正文完
 0