作者：拂衣、丛霄
2019 年 Berkeley 预测 Serverless 将取代 Serverful 计算成为云计算新范式。Serverless 为利用开发提供了一种全新零碎架构。借助 2023 年由 OpenAI 所带来的 AIGC 风潮，以阿里云函数计算 FC、AWS Lambda 为代表的 Serverless 以其更高老本效益、更简化的后端代码 & 扩展性及更极致的弹性等泛滥个性，将开发者从沉重的手动资源管理与性能老本优化中解放，再次激发开发者蓬勃的想象力与创造力。国内越来越多开发者及企业开始尝试如何将 Serverless 利用于理论业务或者场景。
但在优雅应用 Serverless 之前，仍旧有不少小问题须要提前解决。因为 Serverless 平台的扩缩容是基于申请解决 / 事件驱动的并发度进行扩缩容的，对于习惯基于 CPU 指标进行 Pod 程度扩缩的的开发者而言，就会遇到以下难题，比方并发度、最小实例数、最大实例数这几个参数之间的关系是什么样的？又比方单个实例最大并发度怎么设置，才可能合乎本人的业务需要？
01 Serverless 参数配置的考量维度
Serverless 能提供肯定通用能力，但针对不同业务逻辑须要采取适合的配置能力更好的施展 Serverless 价值。但如何评估函数的最佳配置波及到多变量协同优化的问题，尽管函数计算 FC 提供了基于利用“每日申请总数”和“均匀申请响应工夫”的申请预估、基于利用目前应用的服务器“规格”和“利用率”的现有服务器用量预估等形式辅助进行参数配置。但想要更好进行配置，咱们倡议从以下三个维度去评估配置 Serverless 服务参数。
（1）在老本与性能之间进行取舍
如何依据业务偏好抉择性能优先或老本优先是参数配置须要思考的第一大难点。在单实例多并发数绝对固定的状况下，能够进步单实例并行处理申请数量，缩小实例数，从而降低成本。当并发数过高时会减少资源竞争，导致性能提早减少，从而减少老本；如果对于延时敏感度绝对较低，能够选取较低实例规格，单价老本更低，与之相同，想要更短延时，能够抉择较高的实例规格，但单价成更高。
（2）联合不同函数业务逻辑的复杂度
除了老本和性能取舍，针对不同类型函数逻辑，不同配置参数成果也有着微小差别。很多函数业务逻辑简单，只针对繁多逻辑分支进行特定配置并不代表整体性能最优；不失当的配置可能产生大量预期之外的运维老本。对此，咱们针对 CPU 密集型、IO 密集型不同类型函数进行测试，以便更好的开掘不同规格与不同类型函数 TPS 之间的关系。
- 在不同规格下，对 CPU 密集型函数进行压测
能够看到 CPU 密集型规格越高，maxTPS 越大，规格与 maxTPS 出现显著线性关系。规格越大，maxRT 越低，阐明 CPU 密集型的函数，增大资源规格能够显著升高 RT。但规格增大到 4G、8G 后，对 RT 的升高成果边际效应递加。
- 在不同规格下，对 IO 密集型函数进行压测
能够看到规格晋升对 IO 密集型的性能改善十分无限，规格与 maxRT、maxTPS 关联度无限。特地扩大到高规格后，对于 maxTPS 的晋升较小。
借助下面压测，咱们能够看到这样子的论断：对于 CPU 密集型函数，规格减少对单实例性能的晋升可能提供较大的改善。但对于 IO 密集型函数，规格减少对单实例性能的晋升存在边际递加效应。当超过肯定规格后，规格晋升对性能晋升简直没有晋升。
（3）兼顾函数配置对计算资源配置的影响
因为函数并发度、最小实例数、最大实例数等配置会影响到 Serverless 平台的资源分配，保障单函数资源刚性交付、多函数的资源隔离同时，正当利用平台弹性调度能力并进步资源利用率是最初要思考的问题。
以同时解决 x 个并发申请场景举例，当实例并发度设置为 1 时，每个实例同时只能解决 1 个申请，函数计算须要创立 x 个实例来解决这 x 个申请。当实例并发度设置为 X10 时，每个实例同时能够解决 X10 个申请，函数计算只须要创立 1 个实例就能解决这 x 个申请。
单实例多并发实用于函数中有较多工夫在期待上游服务响应的场景。期待响应个别不耗费资源，在一个实例内并发解决能够节俭费用。但较低单实例并发度在函数流量稳定变动时会提前达到单实例并发下限，导致实例扩缩容、冷启动更频繁。与此同时，须要创立和保护更多实例个数，造成整体资源利用率偏低。
02 评估参数配置的合理性
联合以上三个维度，咱们能够看到评估 Serverless 的参数配置绝非易事。很多用户在开始尝试应用 Serverless 时仅是通过文档指引进行相干参数配置。在函数正式上线后，很快就会发现之前配置不合理，所造成的老本超预期以及性能不迭预期等问题，并尝试重复批改函数配置进行验证。资深开发者会抉择进行压测，以便测试出最佳的函数配置。但压测脚本配置、压测数据报告解读须要有肯定的实践经验，开发者也无奈非常笃定压测所得出的配置论断是否是合乎业务预期的最优抉择。在统计了海量用户理论配置应用状况后，咱们发现示意用户理论资源使用量较低，理论配置规格偏大，造成肯定的节约。
为了更好的验证配置参数的合理性，函数计算 FC 提供基于性能测试 PTS 能力的函数性能探测性能 来评估函数单个实例在不同规格下的性能下限，借以举荐满足用户预期提早的最佳并发度与函数规格配置，探测办法基于 little’s law [ 1] 排队实践（并发数 = 申请的均匀提早 * TPS），如图示：
（横坐标是并发数，右边的纵坐标是 TPS，左边的纵坐标是提早）
因为每个服务器的解决能力都无限，所以会呈现随着并发数回升，吞吐量先回升后平缓，可能呈现降落，即性能好转；当并发度过高时，提早会变高，甚至会急剧好转。通过性能探测，咱们会失去每种规格的要害性能数据，即每个规格最高能接受的 QPS，在通晓本身对业务流量规模前提下，即可得出最失当的函数所需的最小实例数和最大实例数以最佳规格和规格下的最佳并发度。咱们能够只压测单实例，因为在性能体现安稳的零碎，多实例的性能是单实例性能的线性叠加，所以只须要压测出单实例的性能，就能够推算出多实例的性能。
比方，用户预期函数调用端到端提早为 1000 ms，依据 1000 毫秒的提早限度选型出最佳的规格及该规格下最佳并发度，即满足提早限度的最高 QPS 的对应并发度。
因为目前性能探测仅反对对 HTTP 函数进行压测，不反对对事件函数进行压测。仅反对单实例压测，不反对多实例压测。因而，咱们提供性能探测（单实例）、性能测试 PTS（多实例）两种形式进行验证。
- 对于性能探测
作为函数计算 FC 的性能之一，为了进一步升高行能探测的应用门槛，性能采取流程化指引，同时性能探测性能完全免费， 用户只须要为函数承接的申请流量付费，不须要为压测性能付费。
- 对于性能测试 PTS
作为阿里巴巴团体淘宝双十一的性能测试工具，性能测试 PTS 反对按需发动压测工作，可提供百万并发、千万 TPS 流量发动能力，100% 兼容 JMeter。提供的场景编排、API 调试、流量定制、流量录制等性能，可疾速创立业务压测脚本，精准模仿不同量级用户拜访业务零碎，帮忙业务疾速晋升零碎性能和稳定性。目前，提供新用户 5000VUM 的收费试用额度。
03 针对单实例，如何通过性能探测验证单实例配置参数
接下来，咱们简略介绍性能探测的配置流程，仅需三步即可疾速发动性能探测。
- 登录函数计算控制台 [ 2]，在左侧导航栏抉择 服务及函数 ，并在 服务列表 页面抉择指标服务。
- 在 函数治理 页面，抉择指标函数并在 性能探测 页签 新建压测工作。
- 在 单实例性能压测评估 页签，输出必要的压测 API 信息（见下表），单击 执行压测。
（在执行压测前，请先点击 API 测试，验证 API 的 HTTP 申请参数是否配置正确，函数是否能胜利执行。）
- 查看压测后果剖析报告：在 单实例压测后果剖析 页签，查看压测后果。压测过程中，界面会提醒压测预估工夫。压测的规格越多，压测工夫越长，压测费用也越高。压测后果中蕴含举荐的实例规格和最佳并发申请数。您还能够从压测后果下方的两张剖析图中，查看剖析过程。
阐明： 函数计算的压测性能仅反对单实例压测。如您须要配置多实例压测，请单击 单实例压测后果剖析 页签右侧的 多实例弹性能力压测，跳转至 PTS 控制台 [3 ] 配置。
- 查看单实例压测数据详情：单击 查看单实例压测详情 跳转至 单实例压测数据详情 页签，查看每个规格的压测详情。每个规格的压测详情中，您能够看到随着并发度减少，提早和最大 QPS 的变动状况。
但须要特地阐明的是，性能探测举荐的函数配置优先保障满足性能需求，实现最高的资源利用率，但真正实现最低老本配置，须要联合函数线上历史流量数据分析，进行举荐。在进行老本优化举荐规格时，不仅须要达到节约老本的目标，还须要保障不毁坏现有服务的 QoS，即性能不会因为实例规格的升高，而导致提早增大。
04 针对多实例，如何借助性能测试 PTS 进行多实例配置参数
接下来，咱们简略介绍性能测试 PTS 的配置流程，仅需配置 API，即可疾速发动压测。
- 返回性能测试 PTS 控制台。在左侧导航栏中，抉择 性能测试 > 创立场景。
- 在 创立场景 页面，单击 PTS 压测。
- 在 创立 PTS 场景 页面，设置 场景名 ，例如函数计算 Serverless 利用压测，而后在 场景配置 页签，输出 压测 API 名称 ，例如 demo，单击增加压测节点右侧的图标。在 压测 URL 区域中输出上一大节复制保留的 Serverless 利用的拜访域名。配置实现后，您能够单击 调试 API，验证 API 接口配置是否合乎预期。当调试的响应状态码为 200 时，示意该 API 能够失常拜访。
- 在 创立 PTS 场景 页面单击 施压配置 页签，配置相干压测参数，递增模式 抉择 主动递增 ， 最大并发 输出 500，递增百分比 输出 20，单量级继续时长 输出 1，压测总时长 输出 5，串联链路 1 的 最大并发权重 输出 100，串联链路 1 的 起始百分比 输出 20。确认参数后，单击 保留去压测 。在 舒适提醒 对话框中，确认工作预估的预估耗费，未超过收费额度。确认后 单击确定，启动压测。（以上参数仅为示例，请依据理论业务进行调整）
- 大概期待 3 分钟，即可在压测中页面查看以后利用实时的压测数据。
- 在 压测中 页面，您能够看到成功率、RT 和 TPS 等概览数据。
- 在压测实现之后，会主动跳转到 编辑场景 页面，而后单击 压测报告 。在压测报告页签，找到您的压测报告，单击右侧 操作 列下的 查看。
- 在压测报告理解具体的压测报告内容，查看本次压测具体的性能数据。对于压测报告的更多详情，请参见查看 PTS 压测报告 [ 4]。此时已实现通过性能测试 PTS 对 Serverless 利用的压测。
05 开发者场景体验
目前，「通过性能测试 PTS 对 Serverless 利用进行性能压测」场景曾经上线云启实验室。在提供相干的收费试用额度的同时，提供相干操作流程与模板，以便大家疾速体验通过 FC 创立利用以及通过 PTS 进行压测。
传送门：https://developer.aliyun.com/adc/scenario/186a9f71954b42419eb…
相干链接：
[1] little’s law
https://en.wikipedia.org/wiki/Little%27s_law
[2] 函数计算控制台
https://account.aliyun.com/login/login.htm?oauth_callback=https%3A%2F%2Ffcnext.console.aliyun.com%2F&lang=zh
[3] PTS 控制台
https://account.aliyun.com/login/login.htm?oauth_callback=https%3A%2F%2Fpts.console.aliyun.com%2F&lang=zh#/pts/create
[4] 查看 PTS 压测报告
https://help.aliyun.com/document_detail/65304.html
点击此处立刻体验