关于api:日均数十亿访问量解读个推API网关高能演进

2次阅读

共计 3350 个字符，预计需要花费 9 分钟才能阅读完成。

近日，个推服务端技术专家李白受邀参加 SegmentFault D-Day 线上技术直播流动，与来自头部互联网企业的后端技术专家们共探“后端架构演进之路”。李白以“API 网关演进之路”为主题，分享了个推基于 golang 进行 API 网关建设的实践经验和深度思考。

★以下为李白演讲干货整顿：

API 网关是随“微服务”概念而衰亡的一种架构模式。在微服务拆分过程中，本来宏大的单体利用和业务零碎被拆分成许多微服务零碎进行独立保护和部署，导致 API 规模成倍增长，API 治理难度日益减少；同时，子系统通过 API 对外提供能力时，还会存在通用能力反复建设的问题。因而，应用 API 网关对立公布和治理 API 逐步成为一种架构趋势。

在个推，公司的音讯推送、金融风控等业务外围零碎均是基于微服务架构，局部零碎也存在自建的网关模块。随着不同零碎之间的依赖越来越多，高效进行接口治理的需要日益迫切。因而，个推很早就引入了对立的 API 网关，来解决权限管制、流控、服务降级、灰度公布、版本治理等一系列问题。

2015 年，SpringCloud 的诞生极大促成了微服务架构的倒退和风行。个推也是在这一时期，依赖于 SpringCloud gateway 构建了本人真正意义上的 API 网关。

SpringCloud 在生态上比拟敌对，有很多能够开箱即用的监控和容错组件，但因为不反对流量和平安治理，所以无奈很好地满足后续公司进行 API 治理的需要；尤其是个推起初建设数据中台，更亟需一个对立的 API 网关来承当数据中台的入口流量。此外，在开发语言上，SpringCloud 只反对 Java，适用性无限；且存在性能不现实、运维难度大等有余。

因而，为了实现更弱小的 API 治理能力、简化接入和运维形式，同时也为了更好地适应公司数据中台建设需要，个推抉择自研 API 网关。

个推建设 API 网关的几个要害指标：

✦ 1）要可能对 API 残缺生命周期进行对立治理

比方，在 API 设计上，要对立标准，规定 API 必须有归属服务和标签，做到 API 设计上的隔离；设计实现后要可能间接调试，主动生成测试代码；公布时，对 API 流量要做到精细化管制，反对服务的灰度公布；在 API 运行过程中，要可能对 API 调用状况进行全方位的监控和告警，对呈现问题的服务可能及时地熔断隔离；下线后可能及时回收资源。

✦ 2）须要有欠缺的性能组件，来解决再一次申请过程

在整个申请链路中，咱们设计实现了链路追踪、日志、鉴权、限流、熔断、插件等一系列外围性能。

✦3）保障“三高”的同时，用户迁徙和接入要简略

这一点其实是说 API 网关要便于运维和应用，同时要提供各种指标检测性能，且反对主动容错和弹性扩容。

基于以上的指标设计和技术调研之后，咱们抉择将 golang 作为自研 API 网关的主力开发语言。之所以抉择 golang，有以下几个起因：

✦ 1）个推在做多机房容灾建设和数据拆分迁徙过程中，设计了 gproxy-codis 和 gproxy-es，并曾经搭建了一套 proxy 集群来路由不同的用户。这些 proxy 到目前为止运行良好，一些大的集群单机 QPS 超过 6W。在这些我的项目的开发过程中，咱们积攒了不少的开发教训和根底组件，外面的很多轮子都是能够间接复用的。因而，咱们应用 golang 并基于现有的这些组件，开发一套 gproxy-http 就绝对省力得多。

✦ 2）golang 语言自身人造反对高并发，开发速度快，最重要是节俭机器老本。

✦ 3）golang 作为云原生框架应用最多的语言，golang 上的技术积淀也是为个推云原生建设铺路。

确认指标和技术选型之后，接下来就是一些具体的设计与实现。

✦ 1）整体架构

个推 API 网关的整体架构设计，如图所示：

首先是一个 Web 治理平台，API 的创立、公布和后续治理都可在治理平台上配置实现；配置实现后，会下发到配置核心告诉到网关，同时网关也会定时拉取全量的 API 配置；而后是网关的一些外围组件，比方插件引擎，次要是执行配置的一些插件。转发引擎也是 API 网关的外围模块，个推的转发引擎反对 http、grpc，同时还有个推自研的 gcf 协定，而在数据中台的业务场景下，也反对了 kafka 的数据推送能力。

✦ 2）插件服务

从图中能够看到，个推 API 网关整体架构里有一个独立的插件服务。这个设计的外围起因是 golang 是类 C 语言，打包后是可执行文件，而 golang 的原生插件是间接编译好的，不反对更新和卸载，所以也不能在界面上间接新增和更新插件。基于此起因，咱们应用 Java 开发了一个插件服务，利用 Java 动静的语言个性，以灵便地反对插件的新增、更新和卸载。

网关通过 grpc 与插件服务通信，性能上有肯定损耗。为了尽可能减少性能的损耗，咱们把加密、特定的序列化相干插件都应用 golang 的一个原生插件去实现，一些业务自定义比拟强的组件则举荐应用 Java 插件服务。

✦ 3）资源隔离

资源隔离是实现零碎高可用的罕用伎俩，在隔离设计上次要有集群和线程池的隔离。

API 网关次要反对服务集群隔离，通过这种集群级别的隔离，在下层能够反对多租户，如果再彻底一点，在 LB 层面能够把网关集群也隔离进来。另外，服务的灰度公布也是通过网关这种集群隔离来实现的。具体过程是，在降级时，用户能够在界面上配置流量转发规定和集群，通过流量回放，将局部测试流量导入到灰度集群，或把线上实在流量按比例转发给灰度集群，确保没有问题后再全量公布。

线程的隔离次要体现在数据服务，次要性能是把数据 API 化，也就是在界面通过简略的配置就能够把 MySQL、ES、Hbase 的数据通过 API 提供进来，不必开发人员入手写 CRUD 或者客户端代码，十分不便。目前个推数据中台业务场景的大部分流量都是申请数据服务，因而咱们设计了一般线程池、慢线程池和自定义配置的线程池等三类线程池。当申请时长超过慢阈值后，接口会被调配到慢线程池解决，防止慢申请拖垮整个服务。

✦ 4）服务编排

服务编排也是 API 网关须要满足的一个常见需要，次要是将多个 API 做聚合调用，大幅升高调用提早。这部分性能之前是在网关上的，在网关层面反对的服务编排相对来说较为根底，可能撑持 API 的并发聚合调用，但难以解决简单的业务组合，特地是波及到事务的编排场景。因而，咱们决定将这部分性能，抽取进来做独立服务，而后续的链路网关会间接拜访服务编排模块，这样也保障了网关整体绝对轻量。

✦ 5）性能优化

针对 API 网关性能，咱们也做了一系列压测和优化，比方，应用开源函数代替或重写外部大量应用的序列化、加解密等函数；大量应用 Sync.Pool 复用对象，对其外部逻辑进行纯异步解决；自研 gnet，替换原生 net 框架，对网络模型进行优化等。从线上理论运行后果来看，目前个推数据中台中的 API 平台每天调用量超过 10 亿次，单机 QPS 峰值在 2W 左右，整体性能损耗在 10%+，性能体现超过预期。

✦ 6）易用性设计

通过上述插件机制、隔离伎俩和性能上的极致优化，咱们确保建设的 API 网关平台整体是高可用且易扩大的。而平台做好当前，还要不便用户接入应用和运维。

因而，为了晋升易用性，咱们采纳纯 Web 的界面设计，并内置了多个 API 模板。用户通过简略的配置，就能够创立一个 API，例如接口受权有效期、QPS、限额等权限配置，都能通过可视化界面操作实现；创立好 API 之后，用户还能够间接在界面上调试。

同时，在对外提供 API 的场景下，用户能够批量导出某个服务下的 API 文档，十分不便。个推 API 平台还实现了监控和统计的性能，比方提供 API 被调用的趋势、整个服务下 API 调用量和谬误统计等数据，对经营和研发人员比拟敌对。

综上，个推 API 网关基于 golang 自主研发，全 Web 化配置，实现了所有 API 接口的标准化、可视化；除解决网关根底需要外，也反对了插件热更新、多协定转换、数据推送、集群级别资源隔离等进阶需要。除了整合到零碎微服务架构中，个推 API 网关同时也作为公司数据中台流量入口，日均承当数十亿级的访问量。目前个推 API 网关新版集群曾经稳固运行一年以上，在保障系统稳固运行的同时还在继续进化。将来，咱们还将围绕云原生摸索更多的可能性，为业务提供稳固高效的根底平台。

正文完