关于阿里云:2021-阿里云容器服务年度盘点企业级容器应用变化和技术趋势观察

作者：溪洋

在云原生浪潮的推动下，容器和 Kubernetes 技术和利用倒退迅猛。最近，云原生计算基金会 CNCF 公布了与 SlashData 联手撰写的 最新版《云原生开发现状报告》，该报告显示，“Kubernetes 在过来的 12 个月获得了令人瞩目的增长——明天，寰球共有 560 万开发人员在应用 Kubernetes。对于那些领有 500 多名员工的大型组织而言，Kubernetes 和容器的采用率猛增，这意味着 Kubernetes 曾经齐全满足企业的需要。很多时候，开发人员甚至在没有意识到 Kubernetes 的状况下就在应用它。”

云原生曾经成为数字经济技术的翻新基石，与此同时，容器正在成为企业应用云的新界面，为企业的计算基础设施、利用架构、组织文化和研发流程带来新一轮改革。最近，阿里云容器服务团队几位核心成员在一次访谈中，分享了他们对企业级容器利用市场的变动和 2022 年容器技术重点倒退方向的趋势察看。本文心愿联合 2021 年阿里云云原生容器服务的重点事件，帮忙大家梳理云原生容器畛域的外围倒退脉络，把握技术趋势走向。

盘点：2021 阿里云云原生容器服务大事记  

1. 全面降级，让云的边界拓展至企业须要的每个场景

2021 年 9 月，阿里云容器服务发表全面降级为 ACK Anywhere，并公布 ACK 发行版、ACK 麻利版、ACK ONE 分布式云容器平台；以及面向异构计算撑持、资源调度、网络、云原生 AI、智能化运维、云原生制品散发等六大方向的优化降级。降级后的 ACK Anywhere 领有“统一体验、弹性算力、能力下沉、简化容灾”四大外围能力，使企业在任何业务场景下应用容器服务时，都能实现对立集群治理、对立资源调度、对立数据容灾和对立利用交付。

2. 开掘潜能，撑持新一代容器架构降级

随着企业对容器的拥抱更加踊跃，对容器核心技术的启动效率、资源开销、调度效率都有了更高的要求，阿里云容器团队也反对了新一代的容器架构降级，通过对容器、裸金属、操作系统等全栈优化，继续开掘容器的潜能。

• 高效调度：全新降级 Cybernetes 调度器，反对对多架构神龙的 NUMA 负载感知、拓扑调度和细粒度的资源隔离和混部，晋升利用性能 30%。此外，在调度器上做了大量端到端优化，在 1000 节点规模集群中，能够提供 20000Pods/min 以上的调度速度，确保在线服务和离线工作都能高效地运行在 Kubernetes 上；
• 高性能容器网络：最新一代的阿里云容器网络 Terway 3.0，一方面通过神龙芯片 offload 虚拟化网络开销，一方面在 OS 内核中通过 eBPF 实现容器 Service 转发和网络策略，真正实现零损耗，高性能。
• 容器优化 OS：面向容器场景，推出轻量、疾速、平安、镜像原子治理的容器优化操作系统 LifseaOS，相比传统操作系统软件包数量缩小 60%，镜像大小缩小 70%，OS 首次启动从传统 OS 的 1min 以上降落到了 2s 左右。反对镜像只读和 ostree 技术，将 OS 镜像版本化治理，更新操作系统上的软件包、或者固化的配置时，以整个镜像为粒度进行更新。
• 高密部署极致弹性：基于阿里云平安沙箱容器 2.0，优化沙箱容器内的资源开销，最小可达 30M 左右，实现了在繁多物理机上的 2000 实例的高密服务能力。同时通过管控链路的缩短以及组件的精简，并辅以对沙箱内存调配流程、host cgroup 治理流程和 IO 链路的优化，实现了 Serverless 场景的 6 秒 3000 弹性容器实例的弹性能力。

3. 行业引领，技术成熟度与产品丰盛度持续保持寰球当先

• 4 月，Gartner 公布 2021 年容器竞争格局报告，阿里云成为国内惟一间断三年入选的中国企业，产品丰盛度与成熟度持续保持寰球领先水平。与今年相比，在 Kubernetes 反对、容器镜像、Serverless 容器、服务网格等传统维度根底上，本次报告新增了集群部署状态和管控立体两个维度，阿里云容器产品再次取得国内高度认可。
• 5 月，在 2021 云原生产业大会中，阿里云容器服务 ACK/Serverless Kubernetes (ASK + ECI）、阿里云服务网格 ASM 解决方案被中国信通院评为 2021 年度云原生技术创新解决方案 / 产品。
• 6 月，阿里云边缘容器服务 ACK@Edge 通过信通院 33 项测评，取得“2021 云边协同能力认证”，基于 ACK@Edge 实现的申通快递 IoT 云边端架构，入选“2021 分布式云与云边协同十佳实际案例”。
• 7 月，在 2021 年可信云大会中，中国信通院颁布了多项可信云认证的评估后果。其中申通基于阿里云边缘容器 ACK@Edge 的 IoT 云边端架构获可信云用户最佳实际（申通 - 阿里云边缘容器），包含 Serverless 容器服务 ASK 在内的无服务器架构、阿里云服务网格 ASM  取得专项首批先进级认证。
• 8 月，容器服务 ACK 作为阿里云上最优的容器执行环境、容器镜像服务 ACR 作为最优的容器利用散发基础设施，通过高效稳固、极致弹性、平安智能等能力的输入，推动国内赛事以云原生的形式减速向数字化演进倒退。
• 11 月，对立调度技术胜利反对 2021 年双 11 大促，实现了从容器调度到快上快下全流程的全面降级和优化，帮忙阿里双 11 大促成本升高 50%，生产环境常态化 CPU 利用率 65%。
• 12 月，阿里云边缘云原生一体机通过信通院 67 项测评，取得“边缘一体机能力要求认证”。

4. 开源凋谢，携生态搭档构筑边缘、AI、平安、多集群等场景下容器能力幅员

• 1 月，OpenYurt 凭借业界首个开源非侵入式边缘计算云原生平台的技术劣势，入选边缘计算社区评比的“2020 年边缘计算畛域十大热门开源我的项目”。
• 3 月，阿里云与 GitHub 联结公布了疾速部署至阿里云 ACK 的 GitHub Action Workflow。开发者无需自建部署保护 CI/CD 工具，基于开箱即用的 GitHub Action 及阿里云部署模板，即可实现 GitHub 代码变更后，主动利用打包构建上传阿里云容器镜像服务 ACR、疾速部署至阿里云容器服务 ACK 的流程。
• 4 月，由阿里云容器团队与南京大学、Alluxio 社区联结开源的开源的云原生数据编排和减速零碎 Fluid 正式进入 CNCF Sandbox；9 月，该我的项目在由中国信息通信研究院、中国通信标准化协会联结主办的“2021 OSCAR 开源产业大会”上荣获“OSCAR 尖峰开源我的项目和开源社区”奖。
• 5 月，在 2021 阿里云开发者大会“云原生技术与最佳实际”论坛现场，阿里云容器服务负责人易立、VMware 中国研发核心研发总监路广联结发表达成单方在“云原生边缘计算”畛域的技术策略单干，心愿将来依靠开源社区力量，减速边缘云原生生态系统的构建，独特推动云边交融过程，帮忙更多企业全面拥抱数智化转型降级。
• 8 月，阿里云云原生团队联结 Linux 开源软件学园在 GOTC 2021“云原生人才倒退”分论坛联结公布“阿里云云原生人才打算 2.0”，打造面向 CKA、ACA 专业人才双认证能力的课程体系，推动业界造就云原生和 Kubernetes 专业人才。
• 9 月，由阿里云操作系统平安团队和云原生容器平台团队独特发动的开源我的项目 Inclavare Containers 进入 CNCF Sandbox，这是业界首个面向秘密计算场景的开源容器运行时我的项目。
• 11 月，间隔正式发表开源仅 3 个多月后，由来自阿里云容器团队、蚂蚁金服和红帽的工程师独特发动并开源的多集群治理平台 OpenClusterManagement（OCM）我的项目正式进入 CNCF Sandbox。

察看：企业级容器化利用形式和需要变动 

1. 容器化利用向边缘业务场景延长

随着 5G、IoT、音视频、直播、CDN 等行业和业务的倒退，咱们看到一个行业景象：企业开始将更多的算力和业务下沉到间隔数据源或者终端用户更近的中央，从而来取得很好的响应工夫和降低成本。CNCF 最新公布的《云原生开发现状报告》显示，在边缘开发人员当中，Kubernetes 的采用率减少了 11 个百分点，达到 63%。边缘开发人员应用容器的比例为 76%。

这显著区别传统的核心式的云计算模式 — 边缘计算。边缘计算作为云计算的延长，将被广泛应用于混合云 / 分布式云、IoT 等场景，它须要将来的基础设施可能去中心化、边缘设施自治、以及弱小的边缘云端托管能力。云原生架构的新边界 —“云边端一体“的 IT 基础设施开始呈现在整个行业背后，而这也是企业对云原生技术、容器化利用在新场景落地的需要。

边缘计算云原生架构和技术体系须要解决以下问题：云边运维协同、弹性协同、网络协同、边缘 IoT 设施治理、轻量化、老本优化等。针对云边端一体的新需要，在 2021 年，OpenYurt（CNCF Sandbox 我的项目）也公布了 0.4、0.5 等版本，继续优化边缘容器的 IoT 设施治理、资源开销、网络协同等能力。

2. 以深度学习为代表的 AI 工作正在成为容器撑持的重要工作负载之一

随着企进一步的大规模应用容器，企业外部应用容器的范畴也从开始的在线业务逐步向 AI 大数据演进，对 GPU 等异构资源的治理和 AI 工作和作业的治理的需要也越来越多。同时，开发人员在思考如何通过云原生技术，以对立架构、对立技术堆栈撑持更多类型的工作负载。以防止不同负载，应用不同架构和技术，带来“烟囱”零碎、反复投入和运维累赘。

在阿里云，咱们提出“云原生 AI”的定义、技术全景图和参考架构，以期为这个全新技术畛域，提供可落地的最佳实际，并推出了云原生 AI 套件，通过数据计算类工作的编排、治理，以及对各种异构计算资源的容器化对立调度和运维，显著进步 GPU/NPU 等异构计算集群的资源应用效率和 AI 工程交付速度。

针对 AI 计算类工作的个性，在 Kubernetes 外围 Scheduler Framework 的根底上进行了大量扩大和加强，提供了反对 Gang Scheduling、Capacity Scheduling、Binpack 等任务调度策略，晋升集群的资源利用率。并与 Kubernetes 社区积极合作，继续推动 Kubernetes 调度器框架演进，保障了 Kubernetes 调度器通过规范的 plugin 机制，可按需扩大出各种调度策略，来满足各种工作负载的调度需要。同时防止了相似其余 custom scheduler 对集群资源分配带来数据不统一的危险。

• 反对 GPU 共享调度和拓扑感知调度，NPU/FPGA 等定制芯片调度，晋升 AI 工作的资源利用率，同时通过阿里云自研 cGPU 计划，在无需批改利用容器的前提下，提供了 GPU 显存和算力的隔离。
• 在计算和存储拆散的大背景驱动下，基于 Fluid 提供一层高效便捷的数据抽象，将数据从存储形象进去，通过数据亲和性调度和分布式缓存引擎减速，实现数据和计算之间的交融，从而减速计算对数据的拜访。并反对以 Alluxio 和 JIndoFS 为缓存引擎。
• 反对 GPU 等异构资源的弹性伸缩，通过智能的削峰填谷，防止不必要的云上资源生产。同时反对弹性模型训练和模型推理。

3. Kubernetes 利用大规模落地，集群高可用成为次要挑战

随着企业的 Kubernetes 利用大规模应用和落地，如何继续晋升 Kubernetes 集群的整体稳定性是外围挑战。而后 Kubernetes 集群作为一个分布式系统存在高度复杂性，在利用、基础设施、部署过程中任何一个中央的问题，都可能导致业务零碎的故障。这不仅须要利用 Kubernetes 的企业有对云原生容器技术的高可用体系保障，还须要企业云原生运维体系理念的整体降级。

• 以 SLO 定义驱动可观测性体系：针对 Kubernetes 的容量规模建设了性能压测常态化能力，必须对 Kubernetes 集群之上的业务场景可能对包含节点数、POD 数、Job 数，外围 Verb 的 QPS 数有明确理解。联合业务的实在场景进行 SLO 的梳理，继续关注申请量，提早、谬误数、饱和度等黄金指标。
• 常态化的故障演练和混沌测试：比方联合混沌工程理念的 ChaosBlade，正对容器集群的不同危险动作，注入不同的异样案例，从 VM、Kubernetes、网络、存储到利用的全方面故障模拟。
• 精细化的流控风控：针对压测和故障演练过程中发现的异样进行防护能力建设，能够借助 Kubernetes 在 1.20 beta 了 API 优先级和公平性的细粒度流控策略。阿里云容器服务也内置了自研的 UserAgent Limiter 进一步保障 Kubernetes。

除了全局高可用能力的建设外，须要可能有 SRE 团队平台化能力的建设：

• 打造对立的 Kubernetes 运维服务界面，积淀运维和可观测能力，让每个 SRE/DEV 可能无差别的 OnCAll 或反对，有 2 个子指标：1）尽量避免产生问题；2）尽快发现和定位问题，以及尽快恢复问题，建设全局高可用应急体系。
• 重实际和演练：基于场景进行实际，知行合一。从知触发，到行实现是一个闭环，而后一直通过知行的一个循环过程。以赛带练，比方双十一大促，限电，断网等极其场景，稳定性建设，须要针对极其场景进行，容量的布局和压测，组件治理等都是须要一些非凡的场景催生。有了赛场，要打好这场仗，就须要通力协作，就会一直造成一个大的协同合作机制。

4. 基于容器的分布式云治理减速落地

2021 年，基于 Kubernetes 来屏蔽异构环境的差别，搭建分布式云架构曾经成为企业和云厂商的共识。2021 年 5 月的云峰会上，阿里云公布了一云多状态的部署形式，基于飞天架构的一朵云能够全面笼罩从外围地区到客户数据中心的各种计算场景, 为客户提供低成本、低提早、本地化的公共云产品。在一云多状态公布之前，阿里云容器服务在 2019 年的云栖大会上公布了云下 Kubernetes 的注册集群能力，反对对立纳管云上云下的不同 Kubernetes 集群。

往年，阿里云容器服务进一步全面降级了核心云、本地云、边缘云容器集群的对立治理。可能将成熟的云上原生可观测、平安防护能力部署到用户环境，更能够将云端先进的中间件、数据分析和 AI 能力下沉到本地，满足客户对于产品丰盛度以及数据管控的需要，减速业务翻新。并依靠弱小的弹性算力，通过托管弹性节点，企业能够按需从本地扩容到云端，实现秒级伸缩，从容应对周期性或突发业务流量顶峰。

趋势：容器技术重点倒退方向剖析

1. 容器技术高效调度助力绿色低碳计算

数据中心作为数字经济的能源引擎，其能耗增长已成为云计算倒退中不可疏忽的问题。据报道，2020 年数据中心耗电量超过国内总用电量的 2.3%。而且占比将逐年减少。阿里云在事必躬亲地推动绿色计算，比方利用浸没式液冷服务器来升高数据中心 PUE。除此之外，咱们看到数据中心的计算效率也有很大晋升空间，据统计，寰球数据中心的均匀资源利用率不到 20%，这是微小资源和能源节约。

继续施展容器技术的高效调度和弹性能力，能够帮忙企业无效晋升整体的 IT 资源利用率，提供极致的能效比。联合最新的节能数据中心技术、新一代神龙架构、自研芯片、容器优化操作系统实现上下游的全栈优化，晋升利用的整体性能和调度效率。以数据驱动的形式，依据利用运行时资源画像实现智能化调度和实时调整，简化了利用资源配置的复杂性，进一步晋升利用的混合部署，升高资源老本，助力企业整体的 FinOps 治理。

2. 云原生 AI 应答 AI 工程化挑战

Gartner 预测，到 2023 年，70% 的 AI 利用将基于容器和 Serverless 等计算模型构建。AI 要成为企业生产力，就必须以工程化的技术来解决模型开发、部署、治理、预测、推理等全链路生命周期治理的问题。咱们发现，AI 工程化畛域有三大亟待推动的事件：数据和算力的云原生化，调度和编程范式的规模化，开发和服务的标准化普惠化。这些须要继续优化 GPU 等异构架构的高效调度，联合分布式缓存、分布式数据集减速等技术，联合 Kubeflow Arena 的 AI 工作流水线和生命周期治理, 全面降级 AI 工程化能力。

3. 集群智能自治和智能化运维体系建设

云原生曾经成为势不可挡的技术趋势。Gartner 预测到 2025 年，95% 数字化运维将通过云原生平台进行撑持。实现容器集群能自治能力将成为重点倒退方向之一，通过引入更多的数据化智能化伎俩，推动容器的智能化运维体系，升高企业对简单容器集群和利用的治理，包含加强 Kubernetes master、组件和节点的自愈自恢复能力，提供更加敌对的异样诊断、Kubernetes 配置举荐、弹性预测等能力。

4. 全面推动 DevOps 向 DevSecOps 演进

容器平安合规问题还将继续受到关注，须要全面推动 DevOps 向 DevSecOps 演进，在容器软件供应链中，对平安危险进行自动化剖析、修复和阻断。比方面向 Helm、Operator 等 OCI Artifacts 优化整体的平安定义、签名、同步和三方交付；加固容器的南北向和东西向的网络隔离和治理，推动零信赖的链路平安；进一步晋升平安容器和秘密计算容器的性能和可观测能力。

点击​​此处​​，即可查看容器服务 ACK 产品详情！