本文由手机淘宝技术团队原创分享，吴志华（天施）、洪海（孤星）、陈虓将（仲升）等专家参加了本文创作，首次发表于公众号“淘系技术”，收录整顿时有订正和改变。

1、引言

挪动端网络的优化是超级 APP 们永恒的话题，而对于无线电商来说这更为重要，因为网络申请体验跟用户的购买行为非亲非故。

手机淘宝从过来的 HTTP API 网关，到起初扛住双十一战场次要流量的自研高性能、全双工、平安的 ACCS（阿里云通道服务），无论是基础架构的演进、网络调优、协定的优化、异地多活、网络调度上，都有不少贵重的教训与大家分享，本文借此机会总结了整个技术演进过程。

* 浏览对象： 本文属于挪动端网络优化的深水区总结性文章，适宜有肯定挪动端网络应用教训的开发者浏览（尤其对挪动弱网有肯定理解的），初学者如果没有相干常识积攒的话，能够简略理解无需深刻。如果你对挪动弱网很有趣味，能够进一步浏览本文开端“附录”局部的举荐文章。

本文已同步公布于“即时通讯技术圈”公众号，欢送关注：

▲ 本文在公众号上的链接是：点此进入，原文链接是：http://www.52im.net/thread-3110-1-1.html

2、相干文章

《Netty 干货分享：京东京麦的生产级 TCP 网关技术实际总结》
《知乎技术分享：知乎千万级并发的高性能长连贯网关技术实际》
《手机淘宝音讯推送零碎的架构与实际 (音频 +PPT) [附件下载]》

3、技术背景

回忆挪动电商在双十一业务开始衰亡的时候，过后双十一当天挪动成交 243 亿占整体 571 亿的 42.6%。

业务高速倒退心愿更多被动推送去触达用户，一些新的玩法和互动模式，须要连贯买家与买家、买家与卖家、买家与达人，因为没有无效的通道能力，业务采取的是不停去轮询服务器，一来对服务器造成不必要的压力，二来对于用户手机的电量流量也是极大的节约，要害在双十五这种大促的状况下，不必要的申请过大甚至会导致后端集群限流，从而影响到用户体验。

信息流传状态的变动的背地是挪动化带来新的技术特色导致的后果。挪动电商畛域，手机淘宝始终是先行者。挪动电商从最后的复制 WEB 的业务状态到挪动个性不断涌现，更多的互动模式的呈现，向社交化、娱乐化一直迈进的明天，一个单纯的商品的陈列架模式曾经不能满足业务的需要。

业务上须要实时的触达用户，充分发挥挪动的个性，将生产工夫的碎片利用起来，事实也证实了用户的生产工夫随着挪动化的过程一直发生变化，逐渐散布到全天的碎片工夫中。同时货架状态也在向社区化、娱乐化的方向倒退，这些都对网络层连贯用户有了更高的要求。更多的媒体状态和展现形式，对网络层提出了更多元的要求。

大家能够关注到手机淘宝内的音讯盒子这些产品都是业务求变的体现，业务的变动倒逼技术的后退。

4、挪动网络环境的挑战性始终都存在

挪动网络的速度轻易 3g、4g、5g 的遍及，速度有很大晋升，但网络环境的多样性和差异性使挪动网络的环境更加简单，在过来双十一前还常遇到一些挪动网络劫持的事件。网络劫持这块问题的排查效率很低，须要找到用户、复现现场，甚至找网工、运营商配合排查，一查就是几天过来。

同时在咱们的舆情反馈上总是看到用户在说“某个页面加载中、页面打不开、申请很慢、关上某个性能很慢”，面对这些问题过来咱们是没有太好的方法，只能猫抓耗子一桩桩去排雷很被动。很多网络的问题是偶现的，一旦错过当初就无从查起。

诸如此类的问题，背地的起因很多：

• 1）运营商问题；
• 2）机房部署起因；
• 3）客户端 SDK Bug；
• 4）弱网和网络抖动；
• 5）DNS 劫持和数据篡改。

在 PC 时代，咱们拜访网站的接入条件是绝对恒定的，所以在开发时很少思考网络对用户体验的影响。然而挪动 APP 则不然，尤其是在国内，根底的挪动网络环境还不算太好，而且咱们有很多用户的拜访是产生在地铁、公交车这样的挪动环境下，挪动基站的频繁切换进一步减少了网络的不稳固。从手机淘宝的数据能够看出，咱们每天沉闷用户中有不少来自于弱网环境。如果端到云的连贯不稳固、高延时，那么所有的用户体验都无从谈起。

根底网络的效率就像一辆列车，时延是火车的速度 (启动工夫)，而带宽就像火车的车厢装载量，整个传输的物理链路就像火车的铁轨。目前事实条件下的挪动网络条件非常复杂，咱们的指标很简略，就是想让所有用户都能在手机淘宝取得晦涩的体验。

上面这张图，可能让大家更加直观的理解国内的挪动网络环境。形容了从用户到 IDC 的端到端的路由状况，不仅数据传输耗时长且丢包率高，同时安全性也是相当蹩脚的，DNS 劫持、内容劫持在中国就是粗茶淡饭。

因而，咱们在改善网络通道上有很多的事件能够去做，去摸索冲破运营商根底网络的限度，力争为用户发明极致的购物体验。

挪动端的 DNS 问题相当广泛，能够详读以下专题文章：

《全面理解挪动端 DNS 域名劫持等杂症：原理、本源、HttpDNS 解决方案等》
《美图 App 的挪动端 DNS 优化实际：HTTPS 申请耗时减小近半》
《百度 APP 挪动端网络深度优化实际分享 (一)：DNS 优化篇》
《挪动端网络优化之 HTTP 申请的 DNS 优化》

5、整体技术架构

为了满足挪动电商业务高速倒退的需要，咱们决定打造一个世界级的网络接入服务，构建一个无线网络下”水、电、煤“一样的基础设施。

这样一个基础设施须要做到的四个指标：

• 1）全双工；
• 2）低延时；
• 3）高平安；
• 4）凋谢。

在这四个指标之上是围绕这个接入服务配套的运维体系，帮忙最终用户获得良好的端上体验的同时，帮忙开发者疾速构建本人的业务。

如上图所示，在整个接入服务上咱们划分为两层：

• 1）接入网关：负责连贯的放弃、音讯的解析、音讯的散发；
• 2）利用网关：实现各种应用层协定：API、SYNC、RPC、PUSH 等，在利用网关的背地是具体的业务零碎。

同时咱们建设了一个对立调度服务，而不是采纳传统的 DNS，调度服务是咱们的控制中心，通过它咱们能够强有力的指挥咱们的客户端，并且不会受到 DNS 净化的影响。

与服务端的分层架构对应的是客户端的 SDK，最底层的对立网络库 SDK 集中了咱们对网络优化的策略，并向上为各个利用网关技术的 SDK 提供 API。

基于下面的凋谢架构，业务方能够抉择间接凋谢具体的后端服务对接不同的利用网关，不须要理解网络背地的细节，并通过利用网关如 API 网关提供的开发工具疾速生成客户端代码。业务方也能够基于这个接入层设计本人的协定。

对立接入层集中管理了用户的设施、在线状态，并提供信息的双向传递能力。

如下图所示：

网关将致力于解决两头网络的通信，为下层的服务提供高质量的双向通信能力。

6、稳定性与容灾

稳定性与容灾是服务端中间件永恒的主题，对立接入层这样一个汇聚网关收益和危险是并存的，一旦这个入口故障了，波及的用户范畴是不可设想的，如何做的更加稳固，是一个微小的挑战。

6.1 网关架构的优化

对于一个对立网关来说，对接的业务网关的信息传递特点是不一样的，大部分的业务在全天都是比拟平缓的，然而个别营销类业务会在短时间内公布海量的信息，这样的信息发布会抢占网关的大量资源，对于用户的失常拜访会产生影响。

举个例子：push 服务须要通过网关推送 2 亿条音讯，而这些音讯须要在短时间内全副推送完，而同时网关在为失常的用户的交互提供服务，海量信息的推送和失常的用户交互相互竞争资源，最终会造成失常用户的交互失败，对于业务来说，这是不可承受的。

基于下面的状况思考，整个网关在布署上分为两个集群：

• 1）一个集群解决常态的在线用户拜访；
• 2）一个集群解决海量信息的推送。

如下图所示，通过这样的形式，防止了业务状态不同，对对立网关的冲击，将不同的业务状态进行了隔离。

6.2 异地多活

在异地多活的整体计划中，对立网关承当了疾速疏导流量的职责，也是这一计划顺利施行的一个重要环节。

异地多活是一个多机房的整体计划，在多个地区同时存在对等的多个机房，以用户维度划分，多机房独特承当全量用户的流量；在单个机房产生故障时，故障机房的流量能够疾速的被迁引到可用机房，缩小故障的复原工夫。

6.2.1）无线接入层单元化的协商机制：

先看一下 web 端在这异地多活中的实现形式：

从上图能够看到，浏览器的业务器求会发给 CDN，由 CDN 上保留的散发规定，向后续的单元机房散发。

无线端也这样做吗？

• 1）客户端领有弱小的能力，能够做的更灵便；
• 2）CDN 的散发节点带来更多的机器老本；
• 3）对于须要双工通信能力的客户端，音讯投递更为简单。

这些是咱们思考与 WEB 不同的中央，是不是能做些不一样的抉择？

如上图所示, 咱们借助了客户端的弱小能力，利用协商的机制来实现用户的申请正确被调配到不同的单元。

含以下几点：

• 1）客户端的申请始终带上以后用户归属单元的信息；
• 2）当申请达到服务端时，服务端判断用户归属单元是否正确，不正确将用户重定向到正确的单元；
• 3）以后申请由网关在服务端上通过跨单元调用保障业务的正确性；
• 4）当客户端归属单元更新后，后续的申请都会发到正确的单元机房。

6.2.2）无线接入层单元化的旁路调度：

协商机制看起来很不错，这里一个重磅炸弹丢过去了，机房的入口网络断了！

如上图，外网不可用，协商的机会都没有故障单元的用户无奈复原，这时旁路的调度服务出场了。

如上图，咱们设计的调度核心这时又承当了单元化的旁路调度职责，当 app 拜访的单元无法访问的时候，app 会拜访不同单元的调度核心，询问用户的归属单元。通过这种形式获得可用的单元节点，将用户切到正确的单元。这个计划同样实用于单机房的接入层网关不可用的场景。

6.2.3）应用层网关不可用：

某个单元机房的应用层网关不可用，这时期待利用网关排查问题须要的工夫比拟久，为了达到最快的故障复原，咱们通过开关把批改接入层的转发规定，将流量切到可用的单元。

如下图所示：

7、端到端网络优化

7.1 对立网络库

在做网络优化一开始，咱们想做一个通用的网络库，这个网络库蕴含策略、httpDNS、SPDY 协定等所有零碎网络优化须要的方方面面。（如果你对 httpDNS 不甚了解，能够详读《全面理解挪动端 DNS 域名劫持等杂症：原理、本源、HttpDNS 解决方案等》）

下层 api 网关申请逻辑、推送逻辑、上传下载逻辑对于这样一个通用网络库来说都是业务。在分层上将通用网络库和下层应用逻辑离开、彻底解耦，对长期继续优化网络是很有必要。

如下图所示架构： 

这样架构上拆散，能够让咱们更专一更系统化去做无线网络优化。

对立网络库的几个重要个性：

• 1）灵便管制客户端网络行为策略（建连、超时解决、申请协定、是否加密）；
• 2）蕴含 HTTPDNS；
• 3）反对异地多活；
• 4）更细粒度管制和调度 (域名级和域名下参数级)。

1、2、3、4 均由网络调度核心的集群管制，咱们心愿这个能够做到与业务无关，去掉一些阿里的业务属性后，这个模块大家能够了解为 HTTPDNS，能够了解咱们在 HTTPDNS 之外做了大量网络优化的端到端的工作。

7.2 就近就快接入

基于网络库咱们实现了一套智能学习的网络策略，智能学习客户端在不同网络环境下建连策略，用户从新回到这个网络环境会给出最优的策略进行疾速连贯，并定期去更新或淘汰本地 cache 的历史最优网络策略。

为了建设更加迅速在各自网络下穿透性更好，接入服务器反对了多种协定和端口，客户端建连时能够极速接入网络。

咱们有一个重要指标是关上客户端 30 秒内网络申请成功率，就是关注连的快给用户体验带来的价值。

基于调度核心，咱们搭建了一个智能大数据分析平台，将客户端在在网络申请过程中的数据如建连工夫、首包收取工夫、整包收取工夫、ssl 握手工夫等重要指标收集上来。依据这些指标剖析出网络异样区域，调整咱们的就近就快接入规定，甚至推动 IDC 建设和 CDN 的布点欠缺。

7.3 弱网优化和抗抖动

在弱网优化上咱们尝试了 QUIC 协定，在网络延时较高、丢包重大状况下比 TCP 有更好体现。

线上手机淘宝灰度版本实测切换到 QUIC 后，均匀 RT 收益有靠近 20%。思考 QUIC 在挪动网络可能存在穿透性问题，将来咱们将采取 SPDY 为主，QUIC 为辅助的模式来欠缺咱们的网络链接策略。

当初 QUIC 协定在挪动端利用的越来越宽泛，有趣味的话可具体以下文章：

《网络编程懒人入门 (十)：一泡尿的工夫，疾速读懂 QUIC 协定》
《技术扫盲：新一代基于 UDP 的低延时网络传输层协定——QUIC 详解》
《让互联网更快：新一代 QUIC 协定在腾讯的技术实际分享》
《七牛云技术分享：应用 QUIC 协定实现实时视频直播 0 卡顿！》

同样在一些网络环境较差状况下，咱们采取长短链接联合形式，在长链接遇到申请超时或穿透性较差状况，利用短链接 HTTP 短链接去申请数据（在挪动网络环境下 HTTP 协定尤其 HTTP1.0 的穿透性是最好的），这样能够在一些极其状况下最大水平保障用户体验。

数据如下图：

网络切换和网络抖动状况下的技术优化也是一个很重要的方面，咱们常常遇到挪动设施网络切换和信号不稳固的状况，在这种状况咱们怎么保障用户的体验？

针对这种状况咱们的思路是有策略正当减少重试。咱们对一个网络申请以是否发送到 socket 缓冲区作为宰割，将网络申请生命周期划分为“申请开始到发送到 socket 缓冲区”和“曾经发送到 socket 缓冲区到申请完结”两个阶段。在阶段一内申请失败了，会依据业务需要帮忙业务申请去做重试。阶段二申请失败只针对读操作提供重试能力。

构想一个场景： 用户在进电梯发动一个刷新数据申请，进到电梯因为网络抖动的起因网络链接断了，这个时候咱们可能正当策略去做重试，这样当用户来到电梯时很可能网络申请重试胜利，帮忙用户拉到了想要的数据，晋升了用户体验和客户端的网络抗抖动能力。

7.4 加密传输 1 秒钟法令

家喻户晓的传统 https 的整个握手流程是十分重的，在网络品质不高的状况下，造成建连过慢，用户体验惨不能睹，甚至都无奈实现平安握手。然而从平安的角度咱们是须要一个平安的传输通道爱护用户的隐衷数据。

平安与网络这一对抵触放在咱们的背后，须要在技术上有所突破，因而咱们自建了一套 slight-ssl 的技术，参考了 tls1.3 的协定，通过合并申请，优化加密算法，使用 session-ticket 等策略，最终在平安和体验之间找到了一个平衡点，在根本不就义用户体验的根底上，达到了平安传输的目地, 同时还大幅度晋升了服务端的性能。通过技术的翻新，咱们实现了无线网络加密传输下 1 秒钟法令。

对于 TLS1.3 在挪动端的利用，也能够详读微信团队分享的这篇《微信新一代通信安全解决方案：基于 TLS1.3 的 MMTLS 详解》。

附录：无关挪动端弱网方面的材料汇总

《IM 开发者的零根底通信技术入门 (十一)：为什么 WiFi 信号差？一文即懂！》
《IM 开发者的零根底通信技术入门 (十二)：上网卡顿？网络掉线？一文即懂！》
《IM 开发者的零根底通信技术入门 (十三)：为什么手机信号差？一文即懂！》
《IM 开发者的零根底通信技术入门 (十四)：高铁上无线上网有多难？一文即懂！》
《古代挪动端网络短连贯的优化伎俩总结：申请速度、弱网适应、平安保障》
《聊聊 iOS 中网络编程长连贯的那些事》
《挪动端 IM 开发者必读 (一)：通俗易懂，了解挪动网络的“弱”和“慢”》
《挪动端 IM 开发者必读 (二)：史上最全挪动弱网络优化办法总结》
《全面理解挪动端 DNS 域名劫持等杂症：原理、本源、HttpDNS 解决方案等》
《美图 App 的挪动端 DNS 优化实际：HTTPS 申请耗时减小近半》
《百度 APP 挪动端网络深度优化实际分享 (一)：DNS 优化篇》
《百度 APP 挪动端网络深度优化实际分享 (二)：网络连接优化篇》
《百度 APP 挪动端网络深度优化实际分享 (三)：挪动端弱网优化篇》
《爱奇艺挪动端网络优化实际分享：网络申请成功率优化篇》
《美团点评的挪动端网络优化实际：大幅晋升连贯成功率、速度等》
《5G 时代曾经到来，TCP/IP 老矣，尚能饭否？》
《微信 Mars：微信外部正在应用的网络层封装库，行将开源》
《如约而至：微信自用的挪动端 IM 网络层跨平台组件库 Mars 已正式开源》
《谈谈挪动端 IM 开发中登录申请的优化》
《腾讯原创分享 (一)：如何大幅晋升挪动网络下手机 QQ 的图片传输速度和成功率》
《腾讯原创分享 (二)：如何大幅压缩挪动网络下 APP 的流量耗费（下篇）》
《腾讯原创分享 (三)：如何大幅压缩挪动网络下 APP 的流量耗费（上篇）》
《IM 开发者的零根底通信技术入门 (十一)：为什么 WiFi 信号差？一文即懂！》
《IM 开发者的零根底通信技术入门 (十二)：上网卡顿？网络掉线？一文即懂！》
《IM 开发者的零根底通信技术入门 (十三)：为什么手机信号差？一文即懂！》
《IM 开发者的零根底通信技术入门 (十四)：高铁上无线上网有多难？一文即懂！》
>> 更多同类文章 ……

（本文已同步公布于：http://www.52im.net/thread-3110-1-1.html）