关于阿里云:阿里云-Serverless-容器服务全面升级新增组件全托管AI-镜像秒级拉取能力

45次阅读

共计 2433 个字符,预计需要花费 7 分钟才能阅读完成。

6 月 1 日在阿里云峰会·粤港澳大湾区上,阿里云智能云原生利用平台总经理丁宇发表,Serverless 容器服务 ASK 全面降级,进一步帮忙企业和开发者降本提效。

Gartner 曾预测,2023 年 70% 的 AI 利用将基于容器和 Serverless 技术开发。作为云原生的重要技术组成,K8s 曾经被开发者和企业宽泛认可,然而其本身复杂性和平缓的学习曲线仍然让人望而却步。

阿里云在 2018 年公布了首个 Serverless 容器服务 ASK,其本质是将容器的运行时和具体的节点运行环境解耦,让用户无需治理 K8s 节点和服务器,即可间接部署利用,大幅升高容器服务的应用门槛。目前,ASK 在容器化利用、在线业务弹性、AI/ 大数据计算类工作等场景中被宽泛应用。

本次公布,ASK 进一步整合了阿里云基础设施的能力,在应用老本、创立效率、异构资源兼容、弹性供应保障等方面带来显著晋升,解决开发者在应用 K8s 的复杂性挑战,也适应了 AI 场景暴发下催生的新需要。

丁宇介绍,本次 ASK 降级涵盖了多个维度,包含对组件的全托管反对、AI 镜像的秒级拉取能力,还升高了客户的应用老本。具体来说:

组件全托管,零 K8s 运维老本: ASK 新增对 CoreDNS、Metrics Server 等十多个 K8s 外围组件的托管反对,提供动静容量布局能力,客户无需自行部署保护,最大化升高运维复杂度。同时,ASK 也新增了智能化危险辨认能力,反对自动化降级 K8s 版本,防止降级导致的利用故障或异样危险。

极致弹性,准确率晋升 80%: ASK 提供 首界独创 基于容器镜像缓存的 AI 大镜像秒级拉取能力,AI 利用启动工夫升高 90%。并且提供端到端的弹性减速,面向 AI/ 大数据工作负载容器化进行全栈优化,通过数据集减速晋升 30% 拜访性能;

此外,本次 ASK 还加强了智能弹性预测  AHPA 能力,相比人工配置,弹性准确率晋升 80%;同时新增对于 GPU 的反对。

普惠算力,提价 40%: 为了给客户提供更好的服务,开释技术红利,让算力更普惠,ASK 新增 U 实例规格反对,对立反对多款处理器,相比上一代主售实例提价高达 40%。

新增 SavingPlan 弹性版本,面向利用非固定波峰波谷场景,额定老本优化 10% 以上。为进一步让价格更通明,新增老本套件反对,清晰洞察弹性资源老本,让老本治理更便捷。

以数禾科技为例,这是一家为金融机构提供高效的智能批发金融解决方案的公司,对于模型的计算能力包含计算速度、计算结果准确性、计算数据实时性等,有很高的要求。

而以后的困扰是撑持模型计算的底层利用资源无奈依据申请量来调整机器资源反对运算能力,这也是以后业务疾速倒退过程中亟待解决的痛点。同时,随着模型在线推理服务数量的减少,数禾的模型服务也变得越来越宏大、臃肿,难以治理。这种情况不仅导致了资源节约,还减少了保护和降级的老本。

为了解决这些“顽疾”,数禾科技采纳阿里云 ASK 部署线上模型,无需 K8s 节点治理,依据实时流量动静应用 POD,资源老本节俭 60%;通过 ASK Knative 服务,解决了数禾模型的灰度公布和多版本并存问题;得益于 ASK 主动伸缩和缩容到 0 的劣势,升高运行老本,大幅晋升服务可用性。

“应用阿里云容器服务 Knative 和 ECI 虚构节点配合部署,保障线上模型应答突发流量的稳定性晋升的同时,又使资源利用效率显著进步,极大地节约了资源老本。”数禾科技 AI 实验室 AI 平台负责人周伟鹏示意。

为了让容器开发者和对应用 Kubernetes 部署 AI 模型业务感兴趣的用户更好地体验 ASK,阿里云全新上线「基于 ASK 轻松部署企业级 Stable Diffusion」场景体验。 通过 Knative 部署满足企业级弹性需要的 Stable Diffusion 服务,同时通过对该服务进行压测试验,体验 ASK 弹性能力。

体验地址:https://developer.aliyun.com/adc/scenario/de33e7d3065949f3b81…

为了让更多开发者感触 Serverless 技术魅力,云原生利用平台与天池联结发动 2023 年云原生编程挑战赛,过往的八年里曾经有超过 5 万支战队参赛。每年都会涌现出十分多优良的选手和杰出的作品,云原生编程挑战赛曾经成为云原生畛域的技术风向标。

往年大赛分为三大赛道,别离解决不同场景常常会遇到的难题,包含 Serverless 冷启动,利用平安畛域的插件设计,以及通过 SAE 去设计一个翻新利用。大赛行将启动,36 万元现金大奖,敬请期待!

ASK 收费试用玩法再降级

目前,ASK 已退出阿里云飞天收费试用打算,为开发者、企业提供肯定额度的收费试用资源。3 分钟就能够创立 Kubernetes 集群,开启容器弹性之旅。

玩法一:ASK 开发者评测正式上线

为了您能更疾速、便捷地体验 ASK 产品能力,您能够在领用试用资源包后,抉择下列 2 个给定场景中的任意一个,残缺体验 ASK 产品在具体利用中的劣势,并围绕 ASK 体验过程开展测评:

  • 评测地址:

https://developer.aliyun.com/mission/review/ask

一等奖: 1 篇最优评测,取得 Redmi Watch 3 + 开发者评测全套定制周边(鼠标垫、飞盘、帆布包、云小宝)+ 阿里云社区优质评测证书 + 阿里云社区首页达人展现一周;

二等奖: 5 篇优质评测,取得阿里云定制双肩背包 + 开发者评测限量首发云小宝公仔 + 阿里云社区优质评测证书。

玩法二:场景体验:在 ASK 中实现弹幕服务

为了让大家体验更多 ASK 能力,特地设置体验场景——“在 ASK 中实现弹幕服务”。在本次体验中,零碎主动生成 ASK 集群,提供业务运行环境。通过前端发送弹幕音讯到 HomePage,而后 HomePage 将弹幕信息发送到音讯解决进行加工。加工实现后,页面将展现前端获取的弹幕后果。

  • 体验地址:

https://help.aliyun.com/document_detail/612667.html

更多玩法和惊喜大礼,尽在 ASK 产品升级发布会,点击此处进入直播间。

正文完
 0