关于阿里云:阿里云-MSE-助力开迈斯实现业务高增长背后带来的服务挑战

5次阅读

共计 4107 个字符，预计需要花费 11 分钟才能阅读完成。

开迈斯新能源科技有限公司于 2019 年 5 月 16 日成立，目前合资股东别离为大众汽车（中国）投资有限公司、中国第一汽车股份有限公司、一汽 - 大众汽车有限公司[增资扩股将在获得适当监督（包含反垄断）审批后实现]、万帮数字能源股份有限公司和安徽江淮汽车集团控股有限公司，总部位于江苏常州。开迈斯集车企与充电企业劣势于一体，提供从充电基础设施的研发制作到软件的智能互联，从私人充电用户到半公共、公共以及商务用户，从电力供应的行业源头到服务平台的终端体验，实现每一个业态的前后端无缝连贯。

开迈斯为中国新生代消费者而来，不仅重视私家电动车主的充电体验，还以高端的品质服务提供用户便捷无忧、智能高效的全新充电体验，开启乐享生存的旅程。同时，开迈斯致力于为电动出行提供全场景充电服务，依靠弱小的研发实力、先进的核心技术和高质量服务，还播种了国内新能源汽车充电畛域的诸多奖项：2021 年，开迈斯荣膺“中国充电桩行业最佳经营服务创新奖”；2023 年 3 月，开迈斯一举取得“高质量充电五星级场站奖“，成为首批取得五星级评估的优良充电运营商（五星级别是最高级别最高规范的场站）；同年 6 月，开迈斯荣获 2023 中国充换电行业十大影响力运营商品牌奖。开迈斯将继续推动充电网络建设速度和充电用户旅程的优化翻新，并将聚焦高功率充电设施研发和新能源服务畛域的摸索，从而推动新能源与新能源汽车深度交融的绿色倒退。

2023 年，开迈斯将持续致力于以用户为核心的整合翻新，助力智能电动化出行。截止往年 7 月底，开迈斯充电网络覆盖国内 192 城，建设 1,274 座充电站和 11,113 个充电终端，积攒用户超 241 万。从建设滞后到“适度超前”，将来三年充电桩产业将迎来大倒退，市场规模达千亿级。当初全国各地很多城市在对充电桩的增设和利用上在一直降级加码，随着新能源汽车的倒退，充电用户群体的诉求飞速增长，开迈斯随同着业务的快速增长，对其架构的稳定性以及可用性也提出了前所未有的挑战。

开迈斯采纳传统的 SpringBoot 形式进行利用开发，利用间通过 Http 申请形式进行互通互联，也正是 SpringBoot 架构的简略性，无效帮忙到开迈斯的业务以及微服务数量进行疾速扩张。然而随着微服务规模的增大，逐步发现利用在公布、运行等各个阶段的都存在一些稳定性与效率上的问题。开迈斯架构同学也意识到须要引入微服务治理能力对以后的微服务进行失当的治理，从而进一步晋升业务的稳定性。 同样的，业务仍旧面临疾速倒退的诉求，如果将原先的 SpringBoot 框架升级成 Spring Cloud 并且引入各种高阶的服务治理能力，对于开迈斯研发同学来说，老本过于太大。

是否有一种不必改代码的形式实现咱们微服务的治理能力呢？比方通过施行全链路灰度公布来防止变更带来的稳定性危险；通过限流降级能力保障运行态的稳定性，解决不确定的流量带来的稳定性危险；通过鉴权能力解决微服务间调用的平安危险。这就好比，咱们如何能够在飞机高速运行的过程中，通过更换引擎来晋升飞机的性能？更要害的是，对于咱们飞机上的乘客来说，还要是无感的。

咱们将问题进一步形象，如何能够不改代码，实现任意 Java 利用的服务治理能力，并且在这个过程中咱们须要确保稳定性、问题诊断效率、架构的可持续性、性能等一系列事实的因素。

技术的摸索总是为业务服务的，咱们围绕着开迈斯的计划进行了一步探讨，是否能够通过 ServiceMesh 的计划解决用户无侵入服务治理的难题。

支流的分布式 Sidecar 模式在近几年受到了大家的青眼，然而在应用过程中也有问题逐步裸露了进去，Sidecar 模式在内存耗费上比拟可控，最多也是在 MB 这个量级，然而在 CPU 利用率上，随着业务吞吐量的增长，Sidecar 的 CPU 耗费根本达到了与业务耗费持平的量级，相当于在应用 Sidecar 之后，雷同业务规模须要两倍的集群数来承载。总的来看，业内也逐步意识到了这个问题，逐步演进出了其余计划，通过集中化的形式实现无侵入的流量路由。
1. 另一方面，引入 Envoy Sidecar 对于开迈斯来说则减少了不必要的运维老本、问题诊断的效率也大幅度回升，同时引入 ServiceMesh 的技术复杂度对业务的研发同学来说也是十分高的门槛。
既然 ServiceMesh 计划对用户来说门槛比拟高，那么是否能够通过 Higress 实现服务间调用的治理诉求？ 只需透出网关的操作界面即可，基于托管的 Higress 给无侵入的服务治理提供了一种新的思路，在满足用户服务治理治理需要的同时，相比 Sidecar 在资源利用率、运维复杂度、性能和时延等方面具备劣势。

既然思路敲定了，大家评估完了稳定性、平安与老本之后，那么就疾速开始计划的实际与摸索了。咱们首先面临的问题是原先通过域名调用 K8s Service 的形式，咱们如何将流量转发至 Higress 并且通过 Higress 再转发给实在对应的 Pod 呢？并且在这个过程中咱们须要思考计划的稳定性。

间接想到的形式就是批改 K8s 中的 Service 跟 Endpoints 配置，利用 coreDNS 能力将流量转发至 Higress。

apiVersion: v1
kind: Service
metadata:
 name: provider
spec:
  type: ClusterIP
  clusterIP: None
---
apiVersion: v1
kind: Endpoints
metadata:
  name: provider
spec:
  subsetS:
    ip: ${higress-slb}
    port: 80

出于商业化稳定性的思考 CoreDNS，能够应用同类型产品 privatelinkZone DNS 进行代替，同时能够配置 CNAME 类型的 DNS 记录批量将服务间拜访的域名 *.camsnet.com 切换至云原生网关上。

到目前为止咱们实现了 Order 的流量被先转发至外部网关 Higress 上，接下来咱们须要配置 Higress 路由规定，将流量转发至实在的指标服务中。

咱们在 MSE 云原生网关（Higress 商业版）中同步容器服务的 Service 至网关，并且配置对应的路由规定，实现流量转发。

流量通过 MSE 云原生网关转发之后，咱们就能够做更多的治理能力了

这个过程中咱们间接能够配置标签路由实现灰度公布的能力，再联合链路追踪实现全链路灰度的能力。
这个过程中咱们能够在路由上配置 JWT 鉴权规定，从而达到服务间的平安调用。

开迈斯通过接入 利用实时监控服务 ARMS - 利用监控，无需批改一行代码就能够实现利用的监控诊断能力，能够疾速理解利用最要害的响应工夫，吞吐量，错误率这黄金三指标，同时依据指标的异样利用调用链能力对整个微服务进行疾速跟踪。

同时链路追踪能力也为利用实现全链路灰度提供了一个技术底座反对。

借助 Tracing Baggage 机制在全链路中传递对应染色标识，因为大部分 Tracing 框架都反对 Baggage 概念及能力，如：OpenTelemetry、Skywalking、Jaeger 等等。当然 ARMS Tracing 能力也是合乎这个规范的，咱们通过实现 Higress WASM 插件，在 Higress outbound Filter 中将指定的透传 key 如 x-mse-tag 从 Tracing 协定指定地位的 Baggage 中读出 x-mse-tag 对应的值，并塞入到 Http 的 Header 中，供 Higress 进行路由。从而实现自定标签全链路透传的能力。

具备自定标签全链路透传的能力之后，咱们就能够构建残缺的全链路灰度能力了。什么是全链路灰度呢？

在微服务架构下，有一些需要开发，波及到微服务调用链路上的多个微服务同时产生了改变，通常每个微服务都会有灰度环境或分组来承受灰度流量，咱们心愿通过进入上游灰度环境的流量，也能进入上游灰度的环境中，确保 1 个申请始终在灰度环境中传递，即便这个调用链路上有一些微服务没有灰度环境，这些利用申请上游的时候仍然可能回到灰度环境中。如果一次公布波及到链路中的多个微服务，咱们能够顺滑地进行全链路灰度公布，并且不必放心灰度流量乱窜的危险。

当咱们实现全链路透传 x-mse-tag 标签后，咱们能够在 Higress 路由上，配置基于 x-mse-tag 的标签路由规定，实现带有特定标签的流量在利用特定版本的节点内流量闭环，从而实现“流量泳道”的全链路灰度能力。

如何能够不必批改代码，实现流量防护能力？以常见的流量管制与熔断降级为例，上面咱们先来介绍一下流量防护能力。

流量管制

流量是十分随机性的、不可预测的。前一秒可能还惊涛骇浪，后一秒可能就呈现流量洪峰了（例如双十一零点的场景）。每个零碎、服务都有其能承载的容量下限，如果忽然而来的流量超过了零碎的承受能力，就可能会导致申请解决不过去，沉积的申请解决迟缓，CPU/Load 飙高，最初导致系统解体。因而，咱们须要针对这种突发的流量来进行限度，在尽可能解决申请的同时来保障服务不被打垮，这就是流量管制。

熔断降级

古代微服务架构都是分布式的，由十分多的服务组成。不同服务之间互相调用，组成简单的调用链路。以上的问题在链路调用中会产生放大的成果。简单链路上的某一环不稳固，就可能会层层级联，最终导致整个链路都不可用。因而咱们须要对不稳固的弱依赖服务进行熔断降级，临时切断不稳固调用，防止部分不稳固因素导致整体的雪崩。

开迈斯通过接入 MSE 服务治理流量防护能力（Sentinel 企业版），无缝实现流量防护能力。 相比社区版本，Sentinel 企业版无论是在应用还是性能层面都有肯定的劣势。

不须要改代码，咱们也能疾速具备残缺、体系化的微服务治理能力。目前开迈斯基于 Higress 实现了全链路灰度、全链路追踪与可观测、流量防护等一系列能力，使得开迈斯以后的架构能够更加从容高空对快速增长业务带来的挑战。

另一方面，对于 Higress 来说，开迈斯计划的落地为 Higress 生态的倒退注入了陈腐的思路，咱们也在继续地晋升 Higress 的易用性与稳定性，心愿能够给更多企业带来更大的价值。

正文完