简介： 前不久，阿里云技术天团空降 CSDN 在线峰会，对核心技术竞争力进行解读。其中，阿里云高级技术专家曾福华分享了《双 11: CDN 如何保障电商大促如丝般顺滑》的议题。俗话说：养兵千日，用兵一时。每一次的战斗，前面都有有数的团队、有数的预案以及有数的演练在撑持着。双十一的稳固，不仅仅有各种翻新各种高科技，还有十分多的体系化工程给与了足够的保障，从物理层到应用层，从资源准入到线上演练，无一不例外的都蕴含着各种门道。面对电商大促，面对百 Tbps 级别的流量，阿里云 CDN 又是如何确保如丝般顺滑的呢？
前不久，阿里云技术天团空降 CSDN 在线峰会，对核心技术竞争力进行解读。其中，阿里云高级技术专家曾福华分享了《双 11: CDN 如何保障电商大促如丝般顺滑》的议题。俗话说：养兵千日，用兵一时。每一次的战斗，前面都有有数的团队、有数的预案以及有数的演练在撑持着。双十一的稳固，不仅仅有各种翻新各种高科技，还有十分多的体系化工程给与了足够的保障，从物理层到应用层，从资源准入到线上演练，无一不例外的都蕴含着各种门道。面对电商大促，面对百 Tbps 级别的流量，阿里云 CDN 又是如何确保如丝般顺滑的呢？
讲师：曾福华，高级技术专家，阿里云边缘云智能调度零碎负责人，次要钻研技术方向为边缘云网一体化调度。
关注阿里云 Edge Plus 微信公众号，看见更多技术资讯，文末留言更有阿里云 T 恤收费拿哦~
内容目录：
- CDN 的倒退历程及架构简介
- 大促场景下，无关 CDN 的体量、保障以及排布那些事
- 弹性、算力及模仿仿真等关键技术解读
阿里云 CDN 倒退历程
2008 年：阿里云 CDN 起源于淘宝 CDN，过后次要服务对象就是淘宝电商。
2009 年：双 11 启动; CDN 研发团队成立; 阿里的 CDN 和电商有着千头万绪的分割。
2011 年：CDN 作为流量基础设施，逐步从服务淘宝电商扩大到全面服务阿里团体。
2014 年：阿里云 CDN 正式商业化; Tengine+Swift 节点架构上线，替换了 ATS 节点架构。
2015 年：阿里云 CDN 与电商携手迈进全站 https 阶段；阿里云 CDN 自研 AIM1.0 智能调度零碎上线。
2017 年：阿里云 CDN 开启全球化策略；合并优酷 CDN；正式公布 SCDN、DCDN 等产品；同年被 Gartner 评定为寰球级供应商。
2018 年：阿里云 CDN 撑持了全网 70% 世界杯直播流量；AIM2.0 智能调度零碎公布。
2019 年：围绕“智能化”，阿里云 CDN 在技术上深耕，在可编程 CDN、多维资源负载平衡、精细化经营、各种边缘场景服务上继续打磨。
2020 年：在全民抗疫的背景下，阿里云 CDN 撑持直播在线教育等场景流量大幅增长；在技术层面，进行 CDN 边缘云原生与云网一体化调度革新。
上图中能够看出，随同着每年双十一以及挪动互联网、视频的遍及，CDN 的流量也出现一个指数级增长。截止目前，阿里云 CDN 在寰球有 2800+ 边缘节点，笼罩了 3000 多个地区和运营商。服务寰球数十万客户，为超百万域名提供减速服务。阿里云 CDN 打造的一张连贯寰球的边缘生态网络，在晚顶峰期间每秒解决上亿 QPS 的用户连贯申请，每天将客户数十亿次配置管理指令下发到全网所有节点。
CDN 简介与技术架构
家喻户晓，站点加载速度对上网体验影响十分大。据统计，大部分站点如果不能在 3 秒内关上的话，靠近 50% 的用户会抉择来到。对于大型在线零碎来说尤为显著，加载工夫每缩短 1 秒，一年就会缩小数以亿计的营收。
CDN 就是旨在提供客户站点拜访减速的 PaaS 云服务（尽管 CDN 诞生的时候云计算的概念还没有提出来），CDN 十分遍及，承载了互联网 90% 以上的流量。工作的原理是通过广域笼罩的边缘节点将内容散发到寰球各地，调度零碎将用户申请疏导正当的边缘节点来大幅减低拜访时延，并管制着缓存内容回源流向，进而达到给客户站点减速的目标。
CDN 比拟切确的定义是，基于运营商资源通过低成本、高牢靠、广覆盖的计算基础设施、内容链接能力及视频承载平台。CDN 外部零碎笼罩智能调度、网络 / 协定以及供应链的治理等模块，同时加之数据和平安防护生态能力，在此基础之上，提供面向网页、图片、点播、直播、动静、政企、平安等不同场景的减速能力。
电商大促的技术特色与挑战
明天的大促规模非常宏大，通常是百 T 级的业务带宽，亿级的并发申请，须要百万级的 CPU 核耗费，如此大规模的场景磨炼下，推动了云产品尤其是 CDN 的疾速成长。
大促流动有两个特色，第一是密集排布，包含流动安顿紧凑，对应不同业务方；流动形式多样，如猫晚直播、大主播、红包、秒杀、0 点开抢等等；同时流动估计非常复杂，须要思考并发连贯、带宽、算力、命中率等指标。第二是须要在高负载下灵便变阵，思考到：高负载大盘资源运行水位；各流动场景对不同维度资源需要差别大；各流动场景的调度笼罩策略要具备随机应变能力，以及弱小的资源弹性伸缩能力。
那在这样简单的背景之下，如何去满足业务高速倒退的需要呢？
直面洪峰流量：CDN 如何承载大促洪流？
通常，拿双 11 大促举例，CDN 的保障分为准备、战前、护航三个大的阶段。同时，因为双 11 保障是组织和零碎联合的体系工程，具体拆解下来能够分为需要评估、预案筹备、需要交付、演练压测、封网保障、大促护航等不同阶段。
一、准备
在需要采集和评估阶段，CDN 须要向各个业务侧去采集业务需要，明确工夫点、业务特色画像和业务流动报量，同时要明确是否波及新的性能定制。而后依据业务需要转化成资源需要，包含库存盘点、错峰复用和资源缺口与建设；
在预案的筹备阶段，须要盘点分明今年既有预案和新增预案；按场景和用处分成提前预案、还是紧急预案；大部分预案是 CDN 平台侧独立实现即可，还是局部须要和业务方一起配合联动；
定制需要交付过程中，次要波及定制开发、联调测试、上线验证等过程；资源在建设交付过程中，也须要对交付的资源进行业务模仿仿真，并配合进行业务资源池的调整。
二、战前筹备
首先须要实现演练压测阶段，包含对容灾、平安、性能和性能各方面的演练，进一步确保双 11 对软硬件零碎、人员组织等方面的筹备工作是到位的，包含预案是否笼罩残缺；接下来，就要进入封网保障阶段了，个别在大型流动上线之前都会禁止所有的公布和变更，一直进行零碎巡检，巡检中确保所有呈现的缺点修复到位，同时这个阶段也会进行战前动员保障，激励士气的同时也对大促保障标准做进一步强调。
三、护航阶段
正式开始护航后，通常会依照提前安顿好的分工进入现场保障，尤其前期工作做得充沛，这个阶段次要工作就是盯盘，针对异常情况须要疾速地发现并定位问题，按计划启动相应紧急预案进行响应。最初，保障完结后须要对整体护航进行复盘总结，为将来的大促保障去做更多参考积淀。
CDN 保障大促的关键技术点利用
一、大促场景弹性如何保障？
因为大促期间业务排布十分多，那么在高资源运行水位的状况如何进行灵便的弹性调度保障十分要害。阿里云 CDN 是如何保障的呢？如下图（上半局部）所示，海量业务中每个业务都有本人的资源偏好，为了保障弹性在业务和资源的匹配过程中，采纳了不强制只择优的业务资源匹配机制。总结下来，阿里云的 CDN 调度零碎在弹性保障上：
资源共池交融是业务弹性保障的最关键因素；
不做业务级别的节点硬件隔离，流量实时按需流动到全网所有节点上；
弹性、品质是可衡量的双指标，可依据理论状况进行自主灵便可控 (业务资源匹配水平)；
按整体大盘需要进行资源布局、资源建设、资源调度；
如上图（下半局部）所示，咱们要做到通过业务资源池资源调度优化，让全网 2800+CDN 节点所有节点的齐涨齐落，这样能力给大促业务提供最大的资源弹性保障。所以，调度不仅是全局负载平衡，更是弹性伸缩，阿里云 CDN 调度零碎进行了以下筹备：
- 节点角色交调度零碎决策，剪除硬束缚；
- 业务资源池交调度零碎实时决策，灵便变阵；
- 节点上业务混布交调度零碎决策，充沛复用；
- 资源池布局、全局负载平衡中台的双剑合璧，弹性伸缩；
二、大促场景算力如何调度？
很多人认为 CDN 单纯是流量散发零碎，但其实这个观点是值得商讨的，在一些场景下还会海量大促突发申请会耗费微小算力资源。拿双 11 来举例，电商网站进行了全站的 https 革新，在 11 日凌晨 0 点电商大促开抢霎时，所有申请汇聚进来，这时候会造成十分微小的尖脉冲，算力耗费非常微小，此时如果没有很好的机制去进行算力资源调度和全局负载平衡，就会呈现大面积的业务异样。按天维度来看，双 11 当天 QPS 比平时要高出约三成。所以 CDN 在大促场景下的另一个外围挑战是：如何对海量业务算力耗费进行精准的全局负载平衡调度？
曾福华在此介绍：在带宽调度或流量调度时，咱们能够从日志上精准推演每个申请耗费的流量，然而比拟难精准去推算出每个申请耗费了多少算力，这对咱们来说是十分大的难题。如下图所示是阿里云 CDN 的解题思路，基于已知的每个节点的 CPU 耗费以及节点的并发 QPS 这两个数据，能够对每个业务单位 QPS 的 CPU 耗费进行公式的计算。同时依据不同工夫点的不同数据变动，一直进行机器学习训练，得出各个业务均匀单申请的 CPU 耗费精准数据了。有了带宽和算力耗费的数据，如此一来，之前的单维带宽调度就须要升维到多维资源调度模型，生成带宽与算力等多资源维度下的全局负载平衡的调度新策略。
三、大促限流保障机制
后面有介绍到大促期间整个大盘是在资源高水位状态下运行，所以须要业务侧做精准的业务报量，CDN 平台会依据这个报量去进行资源评估。然而任何事件都须要思考到突发性和意外性，如果突增业务量超过了之前评估的业务报量，CDN 平台怎么进行风控呢？
这一方面须要业务侧对于报量进行精准评估，而另一方面 CDN 平台侧须要限流的策略来确保整体业务安稳运行。
阿里云 CDN 在限流保障上曾经在多方面积淀了很多实战经验和能力。阿里云 CDN 多级全方位限流保障蕴含：
- 业务类型: 直播、点播、下载、动静减速等场景限流；
- 限流类型: 带宽、QPS、连接数等；
- 限流状态: 单阈值区间限流，多阈值区间限流；
- 限流范畴: 全网、区域、节点等；
- 限流层级: L1 限流、L2 限流、回源限流;
四、调度模仿仿真平台
后面咱们讲到大促场景中需在高负载的状况下进行灵便变阵，调度模仿仿真平台是一个十分好用的工具。
大促场景联合各个业务预估报量进行全局调度策略侧模仿仿真，能够在事先未卜先知资源瓶颈和危险点会产生在什么中央，须要针对各个业务怎么做资源补充和策略调整，循环迭代调整业务资源池，直到模仿仿真平台上危险点解除掉。
除了大促场景之外，调度模仿仿真平台还能够减速辅助 CDN 调度外围零碎的性能演进，从全局角度来察看验证新组件带来的变动影响是侧面还是负面。
模仿平台的用处总结：
第一，基于沙盘模仿迭代，打磨了一套零老本试错之路
•减速调度外围零碎等组件的进化；
•测试平台 + 模仿仿真平台，独特保卫稳定性；
•业务策略、资源的调整实时评估；
第二，通过大促模仿仿真，能够提前预知危险
•业务报量到资源建设，连接管控全流程；
•准确推导资源缺口，准确推导承载增量；
•大促流动变阵模仿，循环迭代业务资源池；
以上是阿里云 CDN 基于多年电商大促场景保障过程中积淀下来的一些实战经验分享。阿里云 CDN 目前也在边缘云原生和云网一体化调度上做了很多技术上的演进，前面咱们将继续给大家进行相干分享，谢谢观看。