乐趣区

函数计算性能福利篇(二) —— 业务冷启动优化

继前一篇《函数计算性能福利篇——系统冷启动优化》,我们再来看看近期函数计算推出的 Initializer 功能之后,带来的一波高能性能优化成果。
背景函数计算是一个事件驱动的全托管 serverless 计算服务,用户可以将业务实现成符合函数计算编程模型的函数,交付给平台快速实现弹性高可用的云原生应用。
用户函数调用链路包括以下几个阶段:
系统为函数分配计算资源;下载代码;启动容器并加载函数代码; 用户函数内部进行初始化逻辑;函数处理请求并将结果返回。其中前三步是系统层面的冷启动开销,通过对调度以及各个环节的优化,函数计算能做到负载快速增长时稳定的延时,细节详见 函数计算系统冷启动优化。第 4 步是函数内部初始化逻辑,属于应用业务层面的冷启动开销,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建、函数依赖库加载等等。为了减小应用层冷启动对延时的影响,函数计算推出了 initializer 接口,便于用户抽离业务初始化逻辑。这样用户就能将自身业务的初始化逻辑和请求处理逻辑分离,分别是实现在 initializer 接口和 handler 接口中,使得系统能识别用户函数的初始化逻辑,从而在调度上做相应的优化。
Initializer 功能简介引入 initializer 接口的价值主要体现在如下几个方面:
分离初始化逻辑和请求处理逻辑,程序逻辑更清晰,让用户更易写出结构良好,性能更优的代码;用户函数代码更新时,系统能够保证用户函数的平滑升级,规避应用层初始化冷启动带来的性能损耗。新的函数实例启动后能够自动执行用户的初始化逻辑,在初始化完成后再处理请求;在应用负载上升,需要增加更多函数实例时,系统能够识别函数应用层初始化的开销,更精准的计算资源伸缩的时机和所需的资源量,让请求延时更加平稳;即使在用户有持续的请求且不更新函数的情况下,FC 系统仍然有可能将已有容器回收或更新,这时没有平台方(FC)的冷启动,但是会有业务方冷启动,Initializer 可以最大限度减少这种情况;具体的 Initializer 功能设计和使用指南,请参考官方 Initiliazer 介绍。
初始化场景性能对比上一节已经简单了概括了 Initializer 的功能,这里,我们具体展示一下初始化场景下 Initializer 带来的巨大的性能提升效应。
函数实现初始化应用场景,如果不使用 initializer,那么函数的主要实现方式应该是 Global variable 方式,下面提供两种实现方式的 demo,仅供参考,下面的性能测试也是对比这两种函数实现方式进行了。
使用 global variables 实现业务层初始化逻辑:
— coding: utf-8 —
import timeimport json
isInit = Falsedef init_handler(): time.sleep(30) global isInit isInit = True
def handler(event, context): evt = json.loads(event) funcSleepTime = evt[‘funcSleepTime’] if not isInit:
init_handler()
time.sleep(funcSleepTime) 使用 initializer 的编程模型实现业务层初始化逻辑:
— coding: utf-8 —
import timeimport json
def init_handler(context): time.sleep(30)
def handler(event, context): evt = json.loads(event) funcSleepTime = evt[‘funcSleepTime’] time.sleep(funcSleepTime) 两个 function 的逻辑相同:
函数实例运行时,先执行 init_handler 逻辑,执行时间 30s,进行业务层初始化;如果已经初始化,那么就执行 handler 逻辑,执行时间 0.1s,进行请求处理;如果没有初始化,那么先进行初始化逻辑,再执行 handler 逻辑。场景对比这里根据生产用户请求场景,我们选择如下三种测试 case 来对比两种初始化函数实现的性能。
负载持续增加模式波峰 burst 模式业务逻辑升级模式测试函数的特性如下:
函数 handler 逻辑运行时间为 100ms; 函数 初始化 逻辑运行时间为 30s; 函数代码包大小为 50MB;runtime 为 python2.7;Memory 为 3GB。这样的函数,系统层冷启动时间大约在 1s 左右,业务层冷启动在 30s,而函数自身请求执行时间为 100-130ms。
负载持续增加模式该模式下,用户的请求在一段时间内会持续增长。设计请求行为如下:
每波请求并发数翻倍递增: 1, 2, 4, 8, 16, 32; 每波请求的时间间隔为 35s。TPS 情况如下,增长率为 100%:
注意:忽略第一批请求的完全冷启动的延时影响。
不使用 initializer 实现的运行结果:

从每波请求的请求延时可以看出,虽然系统层的调度能够为后来的骤增的请求分配更多的函数实例,但是因为函数实例都没有执行过业务层的初始化逻辑,所以新的函数实例花费了大量的执行时间在初始化逻辑的执行上,所以看到 99th latency 都大于 30s。实际上,系统层的调度优化在这样长时间的初始化场景中并起不了作用。
使用 initializer 实现的运行结果,可以看到使用 initializer 功能之后,请求增长率在 100% 的情况下不会再有函数实例执行初始化逻辑,相对于优化前,99th latency 下降了 30 倍以上。

波峰 burst 模式波峰 burst 模式是指用户请求比较平稳,但是会有突然的波峰流量场景。设计请求行为如下:
每波请求时间间隔 35s; 每波平稳请求数 2;burst 请求数 18;TPS 请求如下,burst 流量猛增 9 倍:
注意:忽略第一批请求的完全冷启动的延时影响。
不使用 initializer 实现的运行结果:

使用 initializer 实现的运行结果,对于 burst 的流量,基本能够将 latency 的增长控制在 函数处理逻辑 6 倍以内,99th 的 latency 被优化到原来的 2.9%。

 业务逻辑升级模式业务逻辑升级模式是指用户请求比较平稳,但是用户函数会持续 UpdateFunction,变更业务逻辑,进行用户业务升级。设计请求行为如下:
每波请求时间间隔 35s; 每波平稳请求数 2; 每 6 波请求进行一次 UpdateFunction 操作;TPS 如下:

注意:忽略第一批请求的完全冷启动的延时影响。
不使用 initializer 实现的运行结果,这个时候请求又会重新执行一次初始化逻辑,导致毛刺出现。

使用 initializer 实现的运行结果,基本看出,UpdateFunction 操作对请求已经没有影响,业务层无感知。
总结综上数据分析,函数计算的 Initializer 功能极大的优化了业务层冷启动的毛刺影响:
在用户请求存在明显 burst 或者在以一定速率增长的情况下,能够极大的缓解性能影响,如上,在负载持续增加模式和波峰模式场景下,请求平均 latency 仅仅增加 3 倍,99th latency 只增加了 5 倍,99th latency 仅为优化前的 2.9%,整整下降了 33 倍之多。在用户有持续的请求且不更新函数的情况下,优化之后更新函数,业务层能够做到无感知,平滑热升级。Initializer 功能对业务层冷启动的优化,又一次大大改善了函数计算在延时敏感场景下的表现!

退出移动版