简介： 介绍云网络时延的形成，并对其进行量化的剖析，以及从云网络时延看不同利用对应的部署架构。 也简略的剖析了5G时代对利用部署架构的影响和度量云网络时延的产品和工具。
在引出云网络时延这看起来比拟业余的话题前，先看几个比拟有意思的问题。
人的最快反应速度是多少毫秒？
机器人最快反应速度是多少毫秒?
这样能在介绍云网络时延时让大家有一个工夫量级上的感知。
什么是时延
人体能感知的时延量级
抢红包时，为什么总是他人能抢到？
抢爆品好货时，为什么他人扣的1总在你后面？
游戏对战时，为什么总感觉比对手慢了半拍？
这些是人能显著感知到的时延，这些时延量级在毫秒级（1秒=1000毫秒）。
应激反应
确切的说人类承受到内部刺激而做出反馈，这个时延个别公认的极限是100ms。
大家能够在humanbenchmark这个网站测试一下本人的反应时间是多少ms，快的能到200ms左右，慢一点的就到三四百毫秒了。
机械反馈
人体间断机械反馈的极限，个别公认的极限是50ms。
游戏玩家“高桥名人”一秒点击按键16次，是以后无奈超过的奇观，折合每次反馈的均匀工夫是62.5毫秒。中国玩家相熟的冒险岛游戏的配角就是高桥名人。
机器能感知的时延量级
主动驾驶
特斯拉的齐全主动驾驶芯片，每秒可实现144万亿次的计算，能同时解决每秒2,300帧的图像，联合本地的车载的神经网络系统，发现异常并解决的时延能够做在0.5ms左右，是人类辨认外界异样并做出反馈的速度的200倍。
工业制作
对于纯机械的反馈，机器的速度就更快了，ABB的机器人在50秒以内能够拆卸出一量有5千多个零部件的汽车，是100年前福特流水线手工拆卸速度的1000倍。
整体上看，在机器的世界里时延和速度的单位是零点几毫秒，在人的世界里时延和速度的单位是零点几秒
不同利用对时延的要求
面向用户的利用时延
上面这个表是电信零碎中对不必利用业务的分类以及不同利用对时延和丢包的需要。
总结下来：
1.实时竞技类游戏的时延要求是50ms
2.实时交互类游戏的时延要求是100ms
3.实时交互语音类的时延要求是100ms
4.实时交互视频类的时延要求是150ms
5.非实时大部分互联网利用时延要求是300ms
下面的规范是优良的规范，如果时延减少50ms，则是及格线。
面向机器的利用的时延
5G场景下有对超低时延利用场景的划分。5G的超低时延场景，次要是面向车联网，物联网和工业互联网。
1.工业自动化管制的时延要求是小于10ms
2.近程/遥控驾驶的时延要求是小于10ms
3.近程超声波检测的时延要求是小于10ms
整体上看，如果满足面向机器的超低时延利用，须要将双向时延管制在10ms以内。
对于仅波及到数据中心外部或数据中心间的机器之间的通信，比证券和期货行业的高频交易，这种网络提早甚至要求小于1ms。
端到端的时延形成
下面提到的不同利用的时延要求都是端到端的双向时延，依据利用的不同这个端到端可能时用户端和服务器端，也可能是用户端和用户端之间。
端到端的时延包含利用解决时延和网络传输时延。
网络层传输时延
网络层传输时延指的是数据包的传输时延，比方数据包从手机收回到服务器接管，再从服务器发送到被终端接管。
网络传输时延包含网络接入时延，固网传输时延，数据中心外部网络时延。
对于用户从家庭宽带的固定网络来拜访云端的利用来说，整个端到端的时延形成如下。
用户终端接入到家庭路由器，如果通过WiFi形式，在WiFi接入用户较少，轻负载的状况下时延个别在5-15ms左右，通过网线形式个别小于1ms。
家庭路由器的WAN口连贯到运营商的本地固网，从本地固网到运营商骨干网再到阿里云数据中心，视间隔的长短，网络时延在1到100ms不等。
到阿里云数据中心后，数据中心外部的时延个别小于2ms。
如果用户的终端通过4G或5G接入网络，整个端到端的时延形成会略微简单一些。
4G的终端到基站的空口时延个别在10到20ms左右。
5G的终端到基站的空口时延升高到了1ms。
基站到核心网的时延和物理间隔强相干，时延在1到15ms不等。
核心网的互联网进口会连贯到本地固网。
从本地固网到运营商骨干网再到阿里云数据中心，视间隔的长短，网络时延在1到100ms不等。
到阿里云数据中心后，数据中心外部的时延个别小于2ms。
应用层解决时延
应用层时延蕴含用户前端的终端上的利用解决时延和后端的服务器上的利用解决时延。
应用层解决时延依据不同的利用差别比拟大，有的在10ms以内，有的则大于100 ms。
比如说抢红包，买商品之类的简略交互类利用，次要是一些数据包的交互，这种的应用层解决时延先对较少，很多在10ms以内。
对于工业互联网类的利用，次要也时管制类的报文的交互，应用层解决时延会更小，很多在5ms以内。
对于游戏类的利用，次要是终端向游戏服务器发送各种指令，另外一个方向是终端收到服务的数据后展现给用户。这种类型的利用的应用层解决工夫比拟适中，个别在30ms以内。
终端发送指令时延很短，很多时候能够小于1ms，在服务器侧的游戏解决逻辑状况下也很快，个别在5ms内都能解决完，用户终端收到游戏服务器的数据后通过渲染将画面出现给用户，这个应用层的渲染过程会略微耗时一些，依据用户终端的解决性能，游戏的炫酷水平，解决时延在5到30ms之间不等。整体上游戏场景下的应用层解决时延在10到30ms。
而波及到音视频畛域的应用层解决时延个别会比拟高，次要是波及到外设的音视频采集，音视频编解码，降噪和渲染等信号处理。业界比拟成熟的音视频平台的应用层端到端时延个别能够管制在100ms以内。
从时延角度看利用部署架构
工业互联网类的利用部署架构
工业互联网类的利用的实时性要求个别都比拟高，很多要求端到端时延在10ms左右。
减去应用层的5ms左右的解决时延，留给网络层的解决时延也就5ms了。
后面提到了网络层的时延包含网络接入时延，固网传输时延，数据中心外部网络时延。
4G网络的网络接入时延个别在20ms左右，这种显然满足不了工业互联网的需要。固网网线接入时延个别小于1ms，所以很多工业互联网场景的设施时通过固网网线连贯的。在5G时代，网络接入时延能够在1ms以内，能够把之前固定的设施无线化。
对于数据中心外部解决时延，个别小型数据中心外部时延都小于1ms，超大型数据中心外部会大于1ms，但个别也会小于2ms。
如果按网络接入时延1ms，数据中心外部时延1ms，留给固网传输时延就3ms了。固网的1ms双向传输时延，代表光纤间隔是100km。
这就要求在工业互联网场景下云数据中心要尽可能的凑近工业园区，基本上不能跨城。
在这种场景下用户能够抉择的利用部署架构包含阿里云云盒本地部署，阿里云混合云本地部署。
实时音视频类利用部署架构
实时音视频类利用的特点是应用层解决时延较多，业界先进的音视频平台能够做到100ms以内。
实时音视频类的端到端的时延如前文所述端到端时延最好能管制在150ms以内，如果是在200ms以内也能够承受。
此时留给网络层的时延最多也就100ms。
而实时音视频利用的特点是两个用户终端通信，在这种场景下实际上是两个用户的流量是通过音视频服务器连接起来的，所以理论门路是用户1<—>音视频服务器<->用户2。
所以在音视频场景下，服务器到用户的网络传输时延应该管制在50ms以内。
音视频场景下大部分用户都应用挪动端，对于4G网络网络接入时延个别在20ms左右。此时留给固网传输时延的工夫在30ms以内。
上面是阿里云不同地区服务器到覆国内不同省份的固网时延图。
在音视频场景下，在4G时代，要想给用户提供很好的用户体验，要思考音视频服务器多地区部署。比方用阿里云北京Region笼罩京津冀经济区，用阿里云上海Region笼罩长三角地区，用阿里云深圳Region笼罩珠三角经济区，用阿里云成都Region笼罩西三角经济区。
在5G场景下，能够将网络接入时延从20ms升高到1ms。此时留给固网的传输时延能够从30ms变为50ms。这将很大水平上简化利用的部署架构，从实践上能够实现音视频服务器从多地区部署变为单地区部署。
实时竞技游戏类利用部署架构
实时竞技类游戏的端到端时延最好能管制在50ms以内，如果是在100ms以内也能够承受。
如果按端到端时延100ms来思考，给游戏的前端和后端的应用层时延调配50ms。此时留给网络层的时延也变成了50ms。游戏场景下次要是用户和游戏服务器进行交互。此时要求游戏服务器到用户的网络层时延在50ms以内。
思考到以后4G场景下，网络接入时延约20ms，此时留给固网传输时延的工夫在30ms以内。在这种场景下和下面的实时音视频的利用部署架构要求基本一致了。
所以在4G场景下，对于实时竞技类游戏，须要多地区部署。能够思考用阿里云北京Region笼罩京津冀经济区，用阿里云上海Region笼罩长三角地区，用阿里云深圳Region笼罩珠三角经济区，用阿里云成都Region笼罩西三角经济区。
在5G大规模部署的场景下，能够思考单个地区部署。
实时交互类利用部署架构
实时竞技类游戏的端到端时延最好能管制在100ms以内，如果是在150ms以内也能够承受。
如果按端到端时延150ms来思考，给游戏的前端和后端的应用层时延调配50ms。此时留给网络层的时延也变成了100ms。游戏场景下次要是用户和游戏服务器进行交互。此时要求游戏服务器到用户的网络层时延在100ms以内。
100ms的网络层传输时延是一个很宽松的要求，基本上用阿里云一个地区的服务器即可达到很好的笼罩成果。
所以对于实时交互类游戏利用，抉择阿里云的一个地区部署利用即可。
电商类利用部署架构
电商类的利用的实时交互绝对来讲不是太多，对端到端的时延能管制在300ms以内就能满足要求了。而电商利用后端和前端解决逻辑也绝对来讲时延耗费也不是太多，给应用层解决时延调配100ms的话，网络层的时延还有200ms。
200ms的网络层传输时延是一个更宽松的指标。
**
所以对于电商类的利用，单纯从时延的角度思考，抉择阿里云的一个地区部署利用即可。不过电商类的利用个别状况下对可靠性要求都比拟高，综合思考容灾和高牢靠，还是倡议多地区高靠部署。**
如何度量时延
时延是一个影响用户体验的要害指标，在肯定水平上也能比拟好的反馈网络品质，如何无效的度量时延也变得很要害。
上面简略介绍几种比拟无效的度量时延的工具和产品。
Ping
如果想进行点到点的时延测量，那么最简略最应用的就是ICMP Ping了。
通过ICMP Ping能够获取点到点的双向时延数据。
如果要想进行点到多点的时延测量，这种业界个别叫网络拨测。
对于网络拨测阿里云也有比拟成熟的产品化工具。
实时拨测
以后阿里云比拟好用的网络实时拨测工具的链接如下：
https://zijian.aliyun.com/det...
以后这个拨测工具是收费的。
通过阿里云的实时拨测工具，只须要输出IP或域名，就能够间接发动全国的探针对指标域名或IP的实时探测，2分钟就会呈现全量的后果并以图形化形式出现。
继续拨测
如果心愿对利用继续进行网络品质的监控，如果呈现故障后是否发送告警到具体的负责人，这种场景下阿里云对应的产品是，云监控的站点监控。
站点监控反对自定义探针和告警规定。
以后站点监控的探针基本上曾经笼罩了中国边疆的90%以上的省份和运营商。
告警规定的定义也比拟灵便，而且能够将告警以邮件，电话，短信，钉钉机器人的形式发送。
总结
不同的利用对于端到端的时延要求不同，对应的利用的部署架构也不一样。
端到端的时延蕴含应用层解决时延和网络层传输时延。
应用层解决时延个别状况下不太好优化，网络层传输时延能够通过部署架构优化的形式升高。
网络层传输时延包含网络接入时延，固网传输时延和云数据中心内网络时延。
通过将利用部署到凑近用户的地位，能够无效的升高固网传输时延。
5G次要优化的是网络接入时延，在5G遍及后对实时音视频，实时竞技游戏类利用部署架构的简化会比拟有帮忙。
度量固网传输时延能够应用比拟成熟的实时拨测和继续拨测工具。
作者：秋光
原文链接
本文为阿里云原创内容，未经容许不得转载