引言
自 2014 年以来，亚马逊云科技始终通过 Lambda 服务向用户提供 Serverless 的能力。应用 Lambda，用户不用放心治理服务器或调整容量，以应答一直变动的市场需求，而且上述需要均由亚马逊云科技主动进行配置，用户只需为他们应用的资源付费。
Datadog 的 2021 年 Serverless 状态报告表明，开发者正在减速采纳 Serverless 架构，以应答新的、更高级的业务挑战。咱们很快乐看到，越来越多的组织受害于采纳 Lambda 等 Serverless 技术所带来的敏捷性、弹性和老本效率，反对这个一直倒退多元化的开发者社区。– Ajay Nair，亚马逊云科技 Lambda 服务体验 总经理
这个弱小的 Serverless 服务背地隐含了许多底座继续翻新的底细。明天咱们就来谈一谈亚马逊云科技的 Serverless 底座的继续翻新。
底座翻新
Serverless 是一种云计算畛域的架构，用户不在须要购买或者治理固定数量的服务器，而是由云依据用户的业务特色，动静治理服务器资源，并提供弹性调度、主动扩缩容，故障自愈等能力，用户无需为服务器计费，而是为真正耗费的资源付费。
狭义的 Serverless，通常有 FaaS（函数即服务）和 BaaS（后端即服务）组成，用户无需关怀基础架构的治理和保护，只须要关怀业务代码，即可在 FaaS 环境中运行本人的服务端业务逻辑，并能够应用云提供的多种 BaaS 服务，而且毋庸关怀运维和服务器的扩缩容。
因而，除去 BaaS 的多样性，整个 Serverless 的底座，实质上取决于 Serverless 计算服务（FaaS）的性能与平安。也就是说，咱们在这里探讨的 Serverless 底座翻新，针对的就是 Lambda 服务。同时，咱们也能够想一想 FaaS 的性能与平安，取决于哪些方面，简略来讲，FaaS 的性能与平安重大依赖于底座芯片和虚拟化的能力。所以，咱们明天要探讨的 Serverless 底座继续翻新，次要关注在 FaaS 的芯片与虚拟化上。
FaaS 的芯片翻新
Graviton 是亚马逊云科技于 2018 年公布的基于 ARM 架构的一款服务器处理器，面向 EC2 虚拟机实例的用户。第一代 Graviton 处理器采纳定制芯片和 64 位 Neoverse 内核，EC2 A1 实例反对基于 ARM 的应用程序，例如 Web 服务器、缓存队列、分布式大数据处理和容器化微服务。应用开放式 ARM 架构，意味着通过不从头开始创立新芯片来节省成本，相同，采纳了现有的 ARM 架构，针对 EC2 实例的工作形式对其进行了定制，心愿为用户在 EC2 实例抉择方面提供更多抉择，为基于 ARM 的应用程序提供高可用性和安全性，同时升高虚拟化老本，为用户提供良好的服务器性能和更低的价格。
与第一代 Graviton 处理器相比，Graviton2 处理器在性能和性能上实现了重大飞跃。基于 Graviton2 的实例为 EC2 实例中的工作负载提供最佳性价比。基于 Graviton2 的实例反对宽泛的通用、突发、计算优化、内存优化、存储优化和减速计算工作负载，包含应用服务器、微服务、高性能计算、机器学习推理、视频编码、EDA、游戏、数据库和内存缓存。许多 Serverless 服务，包含 Lambda 和 Fargate 等，也反对基于 Graviton2 的实例，以提供具备性价比劣势的齐全托管体验，进步了性能并节俭了老本。
Graviton3 处理器是 Graviton 处理器系列中的最新款。与 Graviton2 处理器相比，计算性能进步了 25%，浮点性能进步了 2 倍，加密工作负载性能进步了 2 倍。与用于 ML 工作负载的 Graviton2 处理器相比，Graviton3 处理器的性能进步了 3 倍，包含对 bfloat16 的反对，还反对 DDR5 内存，与 DDR4 相比，内存带宽减少了 50%，将来也将反对 Lambda 等 Serverless 服务。
Lambda 服务目前反对基于 ARM 的 Graviton2 处理器上运行。应用此处理器架构选项可取得高达 34% 的更高性价比。Julian Wood 的文章《Migrating AWS Lambda functions to Arm-based AWS Graviton2 processors》，重点介绍了如何从 x86 迁徙到 ARM64，以及迁徙过程中须要的注意事项。Graviton2 处理器内置的性能和安全性，旨在为计算密集型工作负载提供高达 19% 的性能晋升，应用多线程和多解决或执行 I/O 操作的工作负载，能够体验更短的调用工夫以降低成本，与 x86 定价相比，以毫秒为单位计费的持续时间费用，升高了 20%。从 x86 架构到 ARM 架构的更改，不会影响 Lambda 函数调用的形式，与 API、服务、应用程序或工具的集成不受新架构的影响，并持续像以前一样工作。
许多性能能够通过配置更改无缝迁徙，其余性能须要从新构建以应用 ARM64 的软件包，咱们也能够应用 Lambda PowerTuning 工具测试迁徙后的 Lambda 函数性能情况，具体可拜访这里：
-
https://github.com/alexcasalb…
FaaS 的虚拟化翻新
在最后构建 Lambda 服务时，咱们有两条路：
- 容器化，疾速且资源高效，但不提供用户之间的强隔离
- 在虚拟机中运行代码，以计算开销为代价提供更高的安全性。
安全性始终是 AWS 的首要任务，因而，咱们最早应用传统 VM 的形式构建了 Lambda。
用户要求咱们提供更快的扩大、更低的提早和高级性能，例如预置并发。咱们晓得，这种性能需要无奈在传统 VM 上进行构建。
随着用户越来越宽泛采纳 Serverless 技术，咱们意识到现行的虚拟化技术无奈针对呈短暂性特点的工作负载进行优化。咱们认为须要构建特地针对 Serverless 计算的虚拟化技术，须要既能提供基于硬件虚拟化的安全性边界，同时又能放弃容器和函数的轻量与敏捷性。
因而咱们构建了 Firecracker，并于 2018 年 11 月将该虚拟化平台开源公布。Firecracker 是一种采纳基于 Linux 内核的虚拟机 (KVM) 技术的开源虚拟机监控程序(VMM)。Firecracker 容许创立微型虚拟机，即 microVM。Firecracker 保持精简主义的设计准则，仅蕴含运行平安、轻量的虚拟机所需的组件。Firecracker 根据 Apache 2.0 进行许可。请拜访 Firecracker GitHub 存储库以理解更多信息和为 Firecracker 做奉献。
- https://github.com/firecracke…
Firecracker 同时满足了
- 基于硬件虚拟化的虚拟机的安全性
- 容器的资源效率和疾速启动工夫
2020 年 USENIX 网络系统设计和施行研讨会上，咱们发表了一篇论文，具体解释了 Firecracker 的工作原理。
- https://assets.amazon.science…
其中，容器 （左） 使代码能够间接拜访操作系统的一些外围性能（“内核”），通过回绝拜访其余性能（“沙盒”层中的 x）来加强安全性；虚拟机 （右） 为工作负载提供本人的用户内核，并应用硬件虚拟化性能隔离。
虚拟化的外围局部是虚拟机监视器（或 VMM），用来设置虚拟化、治理内存和解决 I/O（如网络连接和磁盘存储）。传统的 VMM 简直与残缺的操作系统一样简单，例如：QEMU 是一种虚拟机监视器，通常与 Linux 内核虚拟机 (KVM) 联合应用，领有超过 140 万行代码（以及相应的宽泛而弱小的性能）。
Firecracker 比 QEMU 高效得多的起因是其精简的 VMM，只有 50,000 行代码——比 QEMU 缩小了 96%。这容许为每个用户程序创立单个 microVM，这是一个简略但弱小的平安模型。此外，这 50,000 行代码是用 Rust 语言编写的，2017 年秋，咱们决定以 Rust 语言来编写 Firecracker，这是一种十分先进的编程语言，可保障线程和内存平安，避免缓存溢出以及可能导致安全性破绽的许多其余类型的内存平安问题，并内置了一个 REST 管制 API，可启动实例、获取或设置 VM 配置、治理快照等。单台服务器每秒可创立多达 150 个 Firecracker microVM，并同时运行数千个 microVM。
当然，大幅减小 VMM 的大小同样会大幅升高其性能。Firecracker 没有实现像 BIOS 或 PCI 总线这样的传统设施，而是通过优化的 virtio 接口与用户内核进行通信。重要的是，Serverless 的工作负载不须要 USB、显示器、扬声器和麦克风等硬件性能，因而基本没有必要去实现对这些性能的反对。
Firecracker 为 Lambda 服务提供反对，2020 年的一个数据是，Firecracker 每月为数十万用户解决数万亿个申请。目前，曾经释出稳固的 1.0 版本。目前，Firecracker VM 能够在不到 125 毫秒的工夫内齐全启动，而齐全创立 microVM 须要不到 7 毫秒。每个 microVM 的内存占用小于 5MB。
Firecracker 用于多个容器托管平台，如 appfleet、Fly.io、Koyeb 等，能够应用容器运行时进行治理，包含通过 firecracker-containerd、Weave Kubes 和 Kata Containers 进行容器化，从而使其可能与 Kubernetes 集成。
总结
本文分享了亚马逊云科技在 Serverless 底座的继续翻新，咱们将持续鼎力投入 Serverless 计算的三个层面：应用层、虚拟化层和硬件层，为用户提供卓越的计算能力，同时保障安全性、可扩展性和高性能。鼎力投入根底技术的研发是继续翻新的要害要义之一，这不仅是为了今天，更是为了下一个十年甚至更远的未来。在此翻新的过程中，咱们也与社区严密单干与共享。通过将 Firecracker 开源化，咱们不仅欢迎您深入研究构建 Serverless 计算的将来根底技术，也心愿您能与咱们一起强化和欠缺 Firecracker。更多信息请参阅 Firecracker 问题列表和 Firecracker 路线图。
点击理解“启动 Linux 虚拟机”教程
学习更多教程，戳这里！