共计 2850 个字符，预计需要花费 8 分钟才能阅读完成。
作者：吴欣蔚 (蓄昂)
NextRPC 是对 RPC 申请模式的翻新和摸索，它能够像多级火箭一样，返回 Payload 多段数据，从不同的网络通道申请 / 应答多段返回，最终实现业务场景交付。外面的“Next”有双关的意思：
- 外围的区别于传统 RPC，申请的特点是让申请响应以流式多段返回给客户端，在流式的语义外面数据不停地通过 Next -> Next -> Next 的模式来响应；
- Next 有下一代的意思，NextRPC 是传统单响应的下一代 RPC 模式。
目前，NextRPC 曾经在手淘的局部交易场景上线，如：下单换购业务在 2021 年 4 月初上线，经验 9.9、11.11 两次大促，业务模式曾经稳固。在 2021 年的双十一大促中，通过 NextRPC 链路给业务整体带来超过 5% 的 uv 转化晋升，在多商品中抉择一个最优商品透出的场景下，uv 转化晋升达 25% 以上。
业务背景
在一些交易外围链路如 购物车、订单 等场景，冀望引入导购链路的举荐算法，基于店铺维度针对单品、多品 SKU、跨店场景进行个性化举荐，推出如“棘手买一件”的个性化举荐产品 或 其余优惠信息的透出，晋升 uv 转化率。
问题与挑战
当 外围交易场景 遇上 个性化举荐，交易 和 导购 的场景碰撞，会产生以下新的问题：
- 用户体验的抵触：个性化举荐算法服务 RT 高，不满足外围交易链路对 RT 的要求；
- 服务质量的抵触：引入个性化举荐，会使得交易链路的上游零碎变得更加简单，对系统的稳定性带来新的挑战；同时，导购链路的「个性化举荐业务」容忍局部不确定性（如申请超时 / 失败），而「外围交易链路」则对稳定性和确定性要求极高，每一次的失败可能都会错失交易；
- 机器资源的抵触：交易、导购 的多地部署构造不一样，机器容量和散布存在差异化。
上述的这些问题，引出了新的技术挑战： 如何在一次申请中同时反对对「用户体验」、「服务质量」、「资源」要求不一样的多个业务撑持零碎。
技术选型
1、RPC 模式分析
以下针对五种常见的 RPC 模型开展比照剖析：
2、申请解决模型剖析
申请解决模型次要剖析 串行解决、并行处理两种模型。
- 串行解决：数据的依赖深度决定了整体可优化的最小 rt；
- 并行处理：通过并行化（并发度 n），来将对应档次上的 rt 升高为原来的 max(RTn)。
3、NextRPC 的多段返回模式
NextRPC 联合了 单申请异步推送数据流 的 RPC 模式和 并行处理 的申请解决模型，解决了新的业务场景带来的挑战：
- 单申请异步推送数据流：
- 能够将 外围业务逻辑 和 非核心业务逻辑 解耦，保障外围数据同步响应，非核心数据异步响应，解决服务质量问题；
- 交易链路、导购链路逻辑解耦，外部跨利用调用，解决机器资源问题；
- 并行处理：
- 业务逻辑可并行化解决，节俭串行等待时间，解决交易链路用户体验问题。
NextRPC 架构
1、客户端架构
技术架构
- 网络层，抹平 Mtop/Accs 通道，对业务通明；
- 数据整流层，管制 单个申请多个返回的时序（其中异步副返回蕴含了异步的业务数据流）；
- 数据编排层，管制 多申请间 异步数据的合并。
数据流和多实例
- 一个页面反对多个 NextRPC 实例，多页面可创立多个 NextRPC 实例；
- 一个 NextRPC 实例可进行多个不同申请，接管不同的副响应推送。
2、服务端架构
技术架构
申请过程详解
- 客户端发动主申请；
- 服务端接管到客户端主申请，执行业务逻辑的同时，通过消息中间件发送副申请信息（注：AttachedRequestEmitter 通过消息中间件，将非核心依赖解耦进来），所有业务逻辑执行实现后，副申请也都发送实现；
- 返回客户端主响应，主响应蕴含副申请元信息；
-
副申请接收端通过消息中间件生产副申请音讯，并调用业务处理器 AttachedRequestProcessor，业务解决实现后，返回 nextrpc-sdk 副申请处理结果；
- 副响应通过音讯推送通道下发给客户端
- 客户端监听指定的音讯推送通道，收到副响应数据后，渲染上屏。
异常情况解决
- 副申请编排，一个主申请多个副响应的场景下，客户端如何晓得总共有多少个副申请？
因为服务端业务调用 NextRPC SDK 发送副申请，SDK 是晓得本人被调用了多少次的，所以这个信息由 SDK 来统计并存储，SDK 外部保护一个副申请元信息，包含总数、副申请业务信息，业务每调用一次 SDK 发送副申请，SDK 累加累加总数，主响应完结时，同时下发副申请总个数。
- 副申请解决，不同业务吞吐量不一样，多个业务之间如何隔离确保互不影响？
业务之间通过消息中间件的不同 Topic 或者 不同的 Tag 进行隔离，每个 Topic 或 Tag 应用独自线程池生产。
- 音讯过期、反复如何解决？
副申请通过消息中间件发送，当副申请接收端收到音讯时，音讯存在过期、反复的状况，SDK 提供音讯的元信息（包含工夫戳、惟一标识）
音讯过期：SDK 外部可
音讯反复：须要由业务代码依据申请的惟一标识来实现幂等。
3、技术指标
NextRPC 作为一种单申请多响应的 RPC 模式，按申请阶段划分，掂量服务质量的技术指标能够分为 3 种：
- 主申请成功率：主申请被胜利解决的比例。主申请的胜利与否，决定着后续的流程是否持续进行，也是掂量 NextRPC 服务质量的最根本指标；
- 副申请成功率：副申请从发动到被解决胜利的比例，用于掂量副申请的服务质量；
- 副响应达到率：在主申请胜利的根底之上，从副申请的发动、接管、解决，再到端上设施胜利接管到副响应，是 NextRPC 多响应服务质量的外围掂量指标。配合上申请的超时配置，还能够进一步掂量 1s、3s、5s 达到率。
不同的申请阶段会有不同的技术指标，能够用于客户端、服务端服务质量剖析，各个阶段产出的指标如下图所示：
总结与瞻望
双 11 是阿里巴巴的超级工程，2021 年是双 11 的第十三个年头，立足过来 12 年的技术与商业翻新，是一个新轮回的开始。
咱们从谋求更高到谋求更好，技术也在摸索这个过程，围绕生产体验不降级这个指标，咱们在外围交易链路上做出大胆的技术尝试，谋求交易确定性和体验的同时，提供更好、更有品质的服务满足消费者，并且能够赋能商家晋升经营能力。
后续，咱们也将持续尝试落地更多业务场景，借助 NextRPC 为业务的翻新助力！
咱们招聘啦！
欢送退出淘宝挪动技术中台，团队成员大牛星散，有阿里挪动中间件的创始人员、鹰眼全链路追踪平台核心成员、更有一群酷爱技术，冀望用技术推动业务的小伙伴。
淘宝挪动技术中台，推动淘系（淘宝、天猫等）架构降级，致力于为淘系、整个团体提供根底外围能力、产品与解决方案：
- 业务高可用的解决方案与外围能力（利用高可用：为业务提供自适应限流、隔离与熔断的柔性高可用解决方案，站点高可用：故障自愈、多机房与异地容灾与疾速切流复原）；
- 新一代的业务研发模式 FaaS（一站式函数研发 Gaia 平台）；
- 下一代网络协议 QUIC 实现与落地；
- 挪动中间件（API 网关 MTop、域名调度 AMDC、音讯 / 推送、文件上传 AUS、挪动配置推送 Orange 等等）。
期待一起参加退出淘系根底平台的建设~
简历投至形式 ：zebin.xuzb@alibaba-inc.com
关注【阿里巴巴挪动技术】微信公众号，每周 3 篇挪动技术实际 & 干货给你思考！