关于serverless:聚焦-AIGC函数计算为-AI-应用插上腾飞翅膀

114次阅读

共计 2207 个字符,预计需要花费 6 分钟才能阅读完成。

6 月 1 日,2023 阿里云峰会·粤港澳大湾区在广州举办,Serverless 减速翻新分论坛如约亮相,阿里云函数计算 FC 聚焦 AIGC 利用开发,GPU 性能体验再降级,让 AIGC 利用开发更简略。

以更少的代码,实现业务翻新

函数计算 FC 是一种以事件驱动为外围的全托管计算服务,用户只需编写代码并上传,函数计算就会主动筹备好计算资源,以弹性、牢靠的形式运行代码,并提供残缺的可观测能力,大幅简化开发运维过程。

  • 函数计算让开发更简略,函数计算 FC 目前反对 100+ 云产品事件驱动,帮忙用户升高用云复杂度。作为全托管计算服务,函数计算内置日志采集监控告警,用户能够进行即时监控保障业务稳定性。函数计算利用核心上线 50+ 热门利用模版,用户可依据业务需要抉择适合模版,实现一键部署,开箱即用。
  • 函数计算让运维更高效 ,通过应用函数计算 FC,开发者能够轻松实现开发、构建、调试、部署到运维的全生命周期治理。函数计算 FC 计费粒度精密,按执行环境的内存和执行工夫计费, 计费粒度可达毫秒级,用户能够只为申请产生的资源耗费买单,按需自在选配,贴合本人的利用运行时开销选取规格,进一步升高资源闲置比例。预留模式作为函数计算 FC 打消冷启动的利器, 闲置 vCPU 实例资源降至 0 元 /vCPU* 秒。百毫秒冷启动,单客交付效率最高可达 2000 实例 / 秒。
  • 函数计算让业务架构更先进,业务拆分到函数级别实现精细化治理,资源利用率可达 100%,真正实现运维 0 累赘,效率晋升 3 至 10 倍,老本升高 30% 至 80%。

    函数计算 GPU 性能再降级

  • 年,生成式 AI 迎来了集中暴发,同时带动 GPU 需要一直上涨,GPU 作为高性能计算硬件的重要组成部分,逐步成为 AI 技术的外围驱动力,为 AIGC 的倒退提供了弱小反对。阿里云函数计算领有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 利用稳固、高性能推理的重要环节。

2022 年公布至今,函数计算 GPU 实现性能体验再降级。

  • 用户配置更灵便,函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至 1GB。CPU 与 GPU 解耦,容许用户独立配置,同时反对 GPUTuring/Ampere 两代卡型。
  • 资源利用率更高,底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界独创多租平安 GPU 共享虚拟化计划,综合资源利用率晋升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。
  • 技术性能再晋升,函数计算 GPU 冷启动工夫从分钟级到秒级,性能晋升 300%。行业首发 GPU 按需付费,切入准实时推理场景,反对 AIGC 热门场景,助力 AI 守业和生产力晋升。

    让 AIGC 利用开发更简略

    AIGC 时代到来,AI 由之前生产内容的助攻,变为具备内容生成能力的“顶流”。人们惊叹于 AI 展现出的后劲,开始摸索如何应用 AI 进步生产效率,然而在理论利用中,AI 利用开发技术的高门槛依然让很多人望而生畏,另外将 AI 利用部署到生产环境中须要思考安全性、可靠性、可伸缩性、维护性等问题,也须要肯定的技术能力和教训。一般开发者或者没有太多编程教训的人是否也能简略、疾速开发 AIGC 利用,享受科技带来的红利呢?

函数计算 +Serverless 利用聚焦 AIGC,致力于为 AI 开发者 / 企业提供高效能低成本的 AI 利用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式,服务端免运维等个性,让开发者真正实现 0 技术门槛开发 AIGC 利用。

齐备的开发者套件,是开发者将 AI 利用部署到云原生架构必不可少的一环。

函数计算整合包含 Serverless 利用核心、Serverless Devs 等齐备的 AIGC 利用上云套件,能够帮忙开发者实现从 0 到 1 再到 N 的业务开发,实现业务 Serverless 化,并提供全生命周期治理能力。通过应用 Serverless 利用核心,用户在部署利用之前无需进行额定的克隆、构建、打包和公布操作,即可疾速部署和治理利用,帮忙用户疾速联动云上的上下游服务,轻松积淀最佳实际。

函数计算具备残缺的 AIGC 能力建设,踊跃拥抱开源生态,让阿里云产品与 LangChain 等 AI 框架高度集成。开发者能够在 ModelScope、HuggingFace 等开源生态和社区抉择模型进行开发、部署。

基于函数计算 +Serverless 利用核心,开发者能够轻松实现一键模型托管,5 分钟上手 AI 利用开发,效力晋升 80%。后续 Serverless 利用核心会继续积淀各行各业的典型 AI 利用案例模版,让用户能够更简略地理解和把握。目前利用核心曾经退出了通义千问、文生图、图生图、图生问等 10 多款热门 AI 利用模版。

通义千问预体验流动上线

阿里云提供 Serverless 函数计算产品试用资源,邀请您体验:Serverless 一键部署通义千问预体验、文生图、图生图、图生文、文生文 5 大经典 AI 场景,让您取得通义千问 30 次对话预体验机会,同时简略、高效实现一键部署图像生成、文字生成服务,速成 AIGC 创作家。双重奖品设置,实现任意一个体验场景可得社区 400 积分兑换奖品,还可加入 AI 生成图像较量赢取 Airpods、阿里云定制蓝牙音箱及阿里云定制清雅杯!

🌏 体验地址:
https://developer.aliyun.com/topic/aigc_fc

您也能够与通义千问开启对话👇👇

通义千问体验界面

体验流动链接:https://developer.aliyun.com/topic/aigc_fc

正文完
 0