关于serverless:如何通过-Serverless-技术降低微服务应用资源成本

前言

在大型分布式 IT 架构畛域，微服务是一项必不可少的技术。从实质上来讲，微服务是一种架构格调，将一个大型的零碎拆分为多个领有独立生命周期的利用，利用之间采纳轻量级的通信机制进行通信。这些利用都是围绕具体业务进行构建，能够独立部署、独立迭代，也可能依据业务负载独立进行程度扩大。

微服务思维以及相干的技术为 IT 架构的倒退带来了一系列粗浅的改革：

易于开发和保护：一个利用只会关注一组特定的业务性能，通过服务拆分，能缩小利用之间的耦合度，让开发和保护更加简略。

技术栈不受限制：在微服务架构中，能够联合我的项目业务及团队的特点，正当的抉择技术栈。

放慢零碎演进速度：每一个利用都能够独立的进行版本更新，通过灰度公布等技术手段能确保公布过程中整个零碎稳固运行。

突破性能瓶颈：每个利用都能独立的程度伸缩，使零碎性能能够依据计算资源的减少而失去线性的扩大。

微服务的挑战

世上没有收费的午餐，微服务技术让 IT 零碎变得更麻利、更强壮、更高性能的同时，也带来了架构复杂度的晋升。对于开发者而言，要想更好的驾驭微服务架构，须要解决继续集成、服务发现、利用通信、配置管理、流量防护等一系列难题。侥幸的是，针对这些普遍存在的难题，业界涌现了一系列优良的开源技术组件和工具，让开发者能够更轻松的构建微服务利用。像 Spring Cloud 和 Dubbo 这样的技术框架，通过多年的倒退，曾经演变为微服务畛域的通用规范，极大地升高了微服务的门槛，但这些技术框架仍然没有方法解决其中两个最大的挑战，这两个挑战成为摆在开发者背后的两座大山。

挑战一：亟需欠缺的生命周期治理与服务治理计划

在一个频繁迭代的零碎中，每个利用会经常性面临新版本公布需要，须要对利用的上线、下线、更新、回滚等流程进行集中性的治理，并配合精密粒度的灰度公布伎俩，缩小版本迭代对业务造成的影响。 在一个简略的微服务架构中，如果某利用处于整个链路的入口地位，它的前端个别会挂上负载平衡组件（上图中的利用 A），以承接来自于最终用户的业务申请。这类利用在进行生命周期治理的时候，复杂度会更高，为了确保利用在新版本公布过程中的均衡稳固，会通过如下的步骤：

在这个流程中，还没有波及到对于流量精密粒度管制的高级灰度计划，但曾经足够体现出其复杂性和操作难度了。如果仅仅依赖于简略的公布脚本进行治理，岂但效率很低，还很容易导致顾此失彼，对系统稳定性造成微小的危险。

挑战二：亟需欠缺的程度扩容与缩容计划

** 当某一个利用的性能呈现瓶颈，须要通过减少实例数量来晋升性能的时候，就须要引入新的计算资源。

新的计算资源从何而来呢？

对于线下 IDC 而言，计算资源是须要事后布局的，扩容并不是一件简略的事件，可能会因为各种条件的制约而导致扩容无奈实现。当然这种困扰在云计算时代不复存在了，为一个利用裁减计算资源是信手拈来的事件，但光有计算资源是不够的，还得在下面部署利用，并将利用包容到微服务体系中。

依据这个流程，如果须要扩容一个利用实例，激进预计也须要 20 分钟以上，其中购买、零碎初始化、利用部署都须要占用大量的工夫。假如零碎流量突增，须要在 2 分钟之内紧急扩容，这个计划就无用武之地了。

一剂良药：容器化技术

为了解决这两个难题，开发者们尝试了各种各样的计划，新的理念以及技术框架在过来的这五年层出不穷。在一轮轮的优胜劣汰下，以 Docker 为代表的容器技术，在 Kubernetes 生态的撑持下，在业界成为了支流，是构建云原生（Cloud Native）利用的必备因素。容器化相干技术可能更大程序的开掘云计算的价值，在肯定水平上帮忙开发者解决这两个难题。

在利用生命周期治理以及服务治理方面，Kubernetes 提供了比较完善的实现机制，通过构建 Deployment 资源，配合 proStop 和 postStart 脚本，能比拟不便的实现滚动公布以及利用的优雅高低线。尽管在灰度公布的过程中，仍然没有方法间接对流量进行精密粒度管制（引入 Service Mesh 技术能加强流量控制力，不在本文探讨范畴），但相比简略的公布脚本，曾经有了飞跃性的晋升。

在利用的程度扩容与缩容方面，通过容器化技术能够极大水平的缩小操作系统装置以及零碎级初始化的工夫，但购买虚拟机的操作是无奈防止的，所以在零碎遇到流量增突的时候，仍然没有方法实现疾速程度扩容。咱们能够预留一部分计算资源，放在资源池中，当利用有扩容需要的时候，就向资源池申请资源，当业务负载降落的时候，再把多余的计算资源偿还到资源池中。

这其实并不是一个好主见，每一个计算资源都是须要老本的，资源池尽管可能解决计算资源疾速投入使用的问题，却造成了微小的节约。另外，到底布局多大的资源池，也是一件很伤脑筋的事件，池子越大，造成的节约就越大，但池子太小，又可能满足不了扩容的需要。

资源老本更深层次的剖析

可能有的开发者会认为，目前的业务运行十分的稳固，在用户流量上并不存在显著的突增，所以扩容和缩容是一个伪需要，在未来也不会有这样的需要。这可能是对互联网业务的一种误会，因为齐全没有扩容需要的状况是不存在的。

首先，只有一个零碎是为人服务的，就必然存在波峰和波谷。对于一个 7*24 小时运行的零碎，不可能永远放弃同样的用户流量，二八准则对于很多业务零碎仍然实用（80% 的用户流量集中在 20% 的时间段）。即使是用户流量绝对均衡的零碎，在凌晨也存在流量的低谷，如果能更进一步的开释闲置计算资源，晋升资源利用率，就能显著的升高资源应用老本。

另外，相比生产环境，开发和测试环境对于扩容和缩容的需要会更加迫切。一套微服务利用由不同的团队进行开发，在现实的状况下，多个团队会共享一套测试环境：

然而，每个团队对于利用的迭代都会有本人的节奏，与此同时，他们又想领有独立的端到端测试环境，从而实现环境之间的隔离，以防止团队之间的相互影响。这样的话，很有可能会造成多套测试环境：

随着利用、团队、业务性能点数量的减少，所须要的开发测试环境数量还会成倍的增长，造成微小的资源节约。对于测试环境的计算资源而言，资源利用率要远低于生产环境。有的时候仅仅是一个简略性能点的验证，为了端对端的跑通业务性能，又防止团队之间的相互影响，就会开启一套包含全副微服务利用的新环境。这样的资源节约，对于很多企业，都是一个多年都未曾失去解决的难题。

因而，微服务架构在实质上就是对弹性伸缩有着强烈诉求的，在弹性伸缩的过程中，不论是单利用的程度弹性伸缩，还是整套环境的启停，资源利用率都对最终的资源老本起着决定性的作用。如果能想方法晋升资源利用率，就能为企业节俭大量资源老本。值得咱们器重的是，绝大多数的微服务利用的资源利用率都是非常低的。

咱们能够做一个简略的统计：把所有服务器的 CPU 利用率每 5 分钟导出一次，依照天的维度求平均值，就能从整体上理解零碎的资源利用率数据。如果把开发测试环境的服务器资源也纳入统计的范畴，资源利用率很有可能会更低。

Serverless 化摸索

资源利用率低的根本原因，在于以服务器为载体的利用架构中，开发者须要将构建好的程序包部署到服务器上，从而对多个用户事件进行响应。为了确保事件响应的及时性，须要让程序长驻于服务器上，而且尽可能激进的布局资源，以避免出现负载过重而导致服务解体的状况。在这个过程中，理论的负载在工夫上调配并不平衡，从而导致整体的资源利用率偏低。

Serverless 技术的呈现，为晋升资源利用率提供了新的思路。Serverless 是一种构建和治理基于微服务架构的残缺流程，容许开发者脱离服务器资源而间接部署利用。它与传统架构的不同之处在于，齐全由第三方治理，由事件触发，存在于无状态（Stateless）的计算容器内。构建无服务器应用程序意味着开发者能够专一在产品代码上，而无须治理和操作服务器资源，真正做到了部署利用无需波及基础设施的建设。

Serverless 技术存在多种状态，最典型的一种是 FaaS（Function as a Service，函数即服务），比方阿里云的函数计算（Function Compute，FC）产品。在函数计算畛域，所有计算资源的申请和调度都由具体的业务事件触发，当业务事件所对应的工作实现之后，计算资源会被立刻开释。这样的形式真做到了计算资源的按需分配，能显著晋升资源利用率，是 Serverless 技术的终极状态。

另外一种是 Serverless 化的容器技术，Serverless 化的容器实例运行在案例隔离的环境中，每个计算节点通过轻量级虚拟化平安沙箱技术齐全强隔离。对于使用者而言，无需购买服务器资源即可间接部署容器利用，也无需对集群进行节点保护和容量布局，能够依据利用配置的 CPU 和内存资源量进行按需付费。当微服务利用须要扩容的时候，就能够疾速取得计算资源，不须要再通过购买服务器这个步骤了，能够帮忙开发者升高计算成本，缩小闲置资源节约，平滑应答突发流量顶峰。阿里云的 Serverless Kubernetes（ASK）就是 Serverless 化容器技术的代表产品。

更进一步挖掘开发者的诉求

Serverless 技术无缝是云计算和云原生利用架构的倒退方向，但对于微服务利用的开发者而言，不论是 FaaS 状态，还是 Serverless Kubernetes，都存在肯定的局限性。

不是每一种业务都适宜通过 FaaS 的形式进行构建，特地是对于链路长，上下游依赖特地显著的利用，基本没有方法进行 FaaS 化革新。即使某些业务零碎的 FaaS 化革新被证实可行，把现有的微服务架构革新成 FaaS 架构也须要肯定的工作量，并不能做到无缝移植。

Serverless Kubernetes 架构尽管能适配所有的业务场景，但对于开发者而言，构建一整套 Kubernetes 体系，须要把握一系列跟 Kubernetes 相干简单的概念，有着十分陡的学习曲线。而且 Kubernetes 生态中各种组件的搭建，再加上网络层与存储层的适配，都波及非常复杂的工作。

造成这种局限性的起因很简略，在以 Spring Cloud 为代表的微服务技术营垒中，零碎的构建都是围绕着利用（也能够了解为单个的服务）而开展，不论是版本更新还是程度扩大，都是针对利用自身。Serverless Kubernetes 架构的外围在于 Pod，比利用更偏差零碎底层，所以使用者须要投入更多的精力用于利用上层资源的治理。而 FaaS 架构的外围在于函数，比利用更偏差零碎下层，因而灵便度会升高，不能适配所有的业务场景。

对于应用支流 Spring Cloud 体系或 Dubbo 体系构建微服务利用的开发者而言，如果须要引入一种计划升高资源老本，他的最终诉求肯定蕴含两个方面：

（1）是否零革新老本，或者靠近零革新老本；（2）是否适配所有的业务场景。

应用层 Serverless 技术

是否有一种介于 FaaS 和 Serverless 化容器之间的技术，能够实现上述重要诉求呢？当然有，这就是以阿里云 Serverless 利用引擎（SAE）为代表的应用层 Serverless 技术，下图为不同层级的 Serverless 技术：

SAE 实现了 Serverless 架构 + 微服务架构的完满交融，对于 Spring Cloud 和 Dubbo 等支流的微服务架构，能够实现无缝兼容，基本上没有革新老本，并真正按需应用、按量计费，节俭闲置计算资源，同时免去 IaaS 层运维方面的工作，无效晋升开发运维效率。

以 Spring Cloud 利用为例，如果须要部署一个新的利用，只须要 2 个步骤：

（1）通知 SAE 这个利用须要多少个实例，并指定每个实例须要的 CPU / 内存规格。（2）上传利用的 JAR 包 / WAR 包，并启动利用。

咱们发现，这两个步骤中并不波及容量评估、服务器购买、操作系统装置、资源初始化等工作，就能让蕴含多个对等实例的微服务利用运行起来。这是因为在 Serverless 的世界中，不再具备服务器资源这样的概念，利用的载体是 SAE 调度进去的沙箱容器，每个实例只有在真正投入使用后，才会按应用时长进行计费。

对于开发者而言，他们不必关怀利用到底部署在物理机外面，还是虚拟机外面，或是容器外面，也不须要晓得底层的操作系统是什么版本的，只须要关注每个利用实例占据多少运算资源就能够了。如果利用须要从 4 个实例扩容到 6 个实例，或者缩容到 2 个实例，只须要一个指令就能够实现，甚至与 SLB 的绑定关系，都能够主动的建设或解除，这是 Serverless 技术为开发者带来的微小价值。

应用 SAE 部署微服务利用，因为只是变更了利用运行的载体，所以能够 100% 的兼容现有的技术架构和业务性能，迁徙老本能够忽略不计。

SAE 的极致弹性能力

除了手动的扩缩容指令，SAE 还反对 2 种主动弹性机制，能够对微服务利用进行灵便的程度扩大，更进一步的施展云计算的弹性能力。

定时弹性机制 ：对于会预期产生的周期性行为，能够设置定时弹性策略。举例：如果每天的上午 9 点是业务顶峰，能够定时每天 8 点半减少实例数量，并在 9 点半缩小实例数量。 基于指标阈值的弹性机制：** 对于超出预期的业务流量突增，能够设置基于指标阈值的弹性策略，依据 CPU、内存等资源指标，以有 QPS 等业务指标让利用实现主动的弹性缩。

通过多种弹性机制，可能对系统容量进行精密粒度的治理，使资源的使用量能随着业务流量的变动而调整，从而极大水平的减少资源利用率，大幅升高资源老本。

在计算资源的调度和启动上，SAE 做了多项优化，对于扩容进去的新实例，只须要几秒钟的工夫就能拉起，这项能力对于一些须要紧急疾速扩容的突发场景，是具备重大意义的。

对于开发测试环境而言，SAE 的机制弹性能力能体现得更加酣畅淋漓，得益于 SAE 杰出的资源调度能力，能够一键启停一整套微服务利用。即使仅对一项简略的新性能进行冒烟测试，也齐全能够新启一套残缺而隔离的测试环境来进行。新的环境能够在秒级搭建实现，疾速投入使用，而测试结束后，又能够立刻开释。从老本上来讲，一套新环境理论投入使用的工夫很短，因而只会耗费极少的费用。这对于微服务利用开发过程中的多团队合作，是一个微小的改革。

老本剖析

SAE 通过资源的理论使用量来付费，费用由两局部组成，每局部依据统计后果和计算形式进行费用结算，按小时出账单扣款。每个利用应用的资源计量形式如下所示：

利用 CPU 资源使用量=∑实例 CPU 规格×本月运行时长（以分钟计），即利用中所有实例的 CPU 规格乘以本月运行时长的总和。

利用内存资源使用量=∑实例内存规格×本月运行时长（以分钟计），即利用中所有实例的内存规格乘以本月运行时长的总和。

其中 CPU 局部的价格为 0.0021605 元 / 分钟 /Core，内存局部的价格为 0.0005401 元 / 分钟 /GiB。SAE 还提供预付费资源包，相当于零售的形式预购计算资源，只有能要有效期内耗费完，就能更进一步的节俭应用老本，当资源包扣完当前，零碎会主动变更为按量付费的模式。

让咱们通过一个理论案例来进一步领会 SAE 如何帮忙微服务利用升高资源老本。假如一个微服务零碎蕴含 87 个利用实例，每个工夫每天的均匀运行时长为 8 小时，实例的配置为 2 Core + 4 GiB + 20 G 磁盘。

• 应用包年包月的 ECS 部署利用：须要购买 87 台计算型 c5，单台的月老本为 186 元，每月总成本 16146 元。
• 应用按量付费的 ECS 部署利用：单台价格为 0.63 元 / 小时，每月累计应用 20880 小时，总成本 13154 元。
• 应用 SAE 部署利用：购买 1 个 75000 元的包年资源包，87 个实例每天运行 8 个小时，刚好把资源包额度用完，折合每月总成本 6250 元。

从这个比照咱们能够得出，只有可能正当的运行 SAE 的弹性能力，就能够为微服务利用大幅度降低资源老本。

附加能力

SAE 除了能够简化运维工作量，升高资源老本以外，还为微服务利用晋升了一系列附加的性能，这是应用层 Serverless 技术为开发者带来的额定价值，咱们能够尽可能的利用这些开箱即用的性能，让建设微服务利用变成更加简略。

残缺的利用生命周期治理 ：利用托管至 SAE 后，能够对利用执行更新、扩缩容、启停、删除、监控启停等利用生命周期治理操作。
开箱即用的注册核心：SAE 自带商业版 Nacos 注册核心，能够收费应用，不须要自行搭建。如果有非凡的需要，比方让部署在 SAE 的利用和其余利用互相发现，也能够应用微服务引擎（MSE）产品提供的注册核心，或者自建的注册核心。

开箱即用的配置管理核心：SAE 集成了 ACM（Application Configuration Management，利用配置管理）中的配置管理性能，能够在 SAE 中应用 ACM 对利用配置进行集中管理。

利用级流量防护： SAE 集成 AHAS 实现利用级别的流控与降级能力，全面保障利用的高可用性。

监控能力：利用托管到 SAE 当前，能够收费取得根底资源（包含 CPU、内存、负载和网络）以及应用层（包含 JVM 剖析、接口调用剖析等方面）的监控能力。如果须要更高级的 SQL 剖析、异样剖析、链路上下游和接口快照，能够集成阿里云利用工夫监控产品（ARMS）。 CI/CD 集成能力：**SAE 与云效、云效 2020、Jenkins 等产品进行了深刻集成，能够不便开发者将构建好的利用疾速部署。

多语言反对

对于非 Java 语言编写的利用，或者没有应用 Spring Cloud 等微服务框架的 Java 利用，SAE 能不能完满反对，并帮忙企业升高资源老本呢？

当然是能够的。SAE 提供容器镜像部署形式，这就代表着不论采纳哪种编程语言，只有最终的利用可能公布成容器镜像，就能够部署在 SAE 上。

对于 Java 系的微服务利用，Java 零碎的一般利用，以及非 Java 系利用而言，SAE 的极致弹性能力并没有实质的区别，都能通过 Serverless 技术提供零碎的资源利用率。只不过 SAE 提供的一些附加价值，比方收费的微服务注册核心，就只能为 Spring Cloud 或 Dubbo 应用服务罢了。

总结

让咱们用这张图回顾 Serverless 技术的微小价值：

常见问题：

1. 问：利用实例没有固定的机器资源，连固定的 IP 地址都没有，如何 SSH 到一台服务器排查问题？

答：并不需要有固定的机器资源和固定的 IP 地址能力排查问题，在云计算时代，通过 SSH 登录到一台机器排查问题的形式并不是一个好的实际。相同，SAE 提供了欠缺的监控能力，还能够不便的与云监控、ARMS 等新一代监控诊断类产品进行了集成，为排查故障提供了更大的便当。当然，如果肯定要登录到某一台机器，SSH 仍然是能够反对的，也能够利用 SAE 提供的 Webshell 工具简化这个流程。

1. 问：磁盘不是计费的维度吗？利用须要大容量磁盘怎么办？利用重启后碰盘中的数据还保留吗？

答：在微服务畛域，利用个别是无状态（Stateless）的，不须要保留大量的本地数据。如果在非凡的场景下离不开这个需要，能够集成 NAS，应用集中式的存储实现。

1. 问：利用的日志怎么查看？

答：SAE 控制台界面提供了对于文件日志的实时查阅能力，相当于收费提供了一个分布式日志采集平台。当然强烈建议接入阿里云日志服务（SLS）产品，更进一步的施展利用日志的价值。

课程举荐

为了更多开发者可能享受到 Serverless 带来的红利，这一次，咱们集结了 10+ 位阿里巴巴 Serverless 畛域技术专家，打造出最适宜开发者入门的 Serverless 公开课，让你即学即用，轻松拥抱云计算的新范式——Serverless。点击链接即可收费学习课程：https://developer.aliyun.com/learning/roadmap/serverless