关于gpu:优优工场云原生的GPU虚拟化AI平台产品-XPU-通过亚马逊-AWS-Marketplace对外发布

43次阅读

共计 2284 个字符,预计需要花费 6 分钟才能阅读完成。

AWS Marketplace 是寰球规模最大最胜利的私有云生态产品和服务目录,它使客户可能轻松查找、测试、部署和治理他们在 AWS 寰球范畴内以后 20 个区域(AWS 中国包含北京和宁夏两个区域)运行零碎所须要的第三方软件和服务。借助 AWS Marketplace,客户能够从这一应用软件商店查找和比拟软件产品,并在登录其 AWS 账户后,几分钟内疾速部署和应用预配置的软件产品。客户能够在 AWS Marketplace 寰球官方网站(https://aws.amazon.com/market…)或 AWS Marketplace 中国官方网站(https://awsmarketplace.amazon…)。

优优工场 (YOYOWORKS) 作为 Amazon AWS 寰球和亚马逊云科技(中国)的官网合作伙伴,帮忙客户轻松实现的 AI 计算云原生的 GPU 虚拟化计划。XPU 是优优工场 (YOYOWORKS) 推出的容器 GPU 虚拟化产品。XPU 核心思想是将 GPU 在内核层进行切分,向上模拟出对立的 XPU 设施供容器应用,即多个容器共享一张 GPU 卡。XPU 实现了一套框架可能很好的屏蔽异构 GPU 和利用(TensorFlow,PyTorch 等)之间的耦合,对 GPU 进行故障隔离,显存隔离,算力隔离,从而实现业务的平安隔离,进步 GPU 硬件资源的利用率并升高应用老本。
XPU 云原生 AI 平台解决方案,次要劣势如下:

XPU 采纳零侵入式架构设计,通过 kernel module,services 及 container runtime 为容器提供虚构的 GPU 设施,在保障性能的前提下隔离显存和算力,为充分利用 GPU 硬件资源进行训练和推理提供无效保障。

高性能

  • 采纳本地应用 GPU 计算资源的架构,有人造的性能劣势,相比于物理 GPU,性能损耗简直为零。
  • 反对将 GPU 切片为任意大小的 XPU,从而容许多 AI 负载并行运行,进步物理 GPU 利用率。
  • 进步 GPU 综合利用率多达 3 -10 倍,1 张卡相当于起到 N 张卡的成果,真正做到低廉算力平民化。

    安全性

  • 完满反对 GPU 单卡和多卡的算力隔离,显存隔离及故障隔离。

    兼容性

  • 零侵入设计:最大的限度保障向后和向前兼容。用户零开销在 XPU 平台上经营现有 AI 利用,无缝兼容已有 NGC 等容器镜像。
  • 硬件兼容性:完满反对包含 NVIDIA Pascal 及当前架构的系列 GPU(GeForce,Quadro/RTX,Tesla);反对裸金属和虚拟环境,反对物理 GPU 和 vGPU。
    架构兼容性 :依靠实现在内核模块层的通用接口能力,XPU 完满反对 CUDA8.0 及当前所有版本的框架和利用。
    生态兼容性:兼容业界规范的 Kubernetes 和 NVIDIA Docker 产品和计划。
    AWS Marketplace 寰球网站和 AWS Marketplace 中国网站是用户应用 AWS 云产品和服务的对立入口。上面我一 AWS Marketplace 寰球为例介绍用户应用优优工场 XPU 产品和办法(AWS Marketplace 中国的办法十分相似,请通过其拜访)
  • AWS Marketplace 官网反对英文关键词搜寻。以下咱们就向您展现如何通过 AWS Marketplace 官方网站订阅以及应用 XPU。
    第一步:通过 AWS Marketplace 官方网站搜寻框,搜寻“yoyoworks”或者“XPU”,点击产品并抉择右侧“Continue to Subscribe”XPU

    下拉查看详细信息:



  • 第二步:进入下一页浏览相干内容,以及条款阐明后,点击“Continue to Configuration”按钮。
  • 第三步:点击“Continue to Configuration”后进入产品配置软件步骤,您能够按需抉择 Delivery Method、Software Version、Region 三个选项,而后点击“Continue to Launch”按钮
  • 第四步:在您承受软件相干条款确认订阅并确定区域和软件版本后,您进入“Launch this software”的界面,在此界面中您能够抉择通过网站或者 Amazon Elastic Compute Cloud (Amazon EC2)控制台启动 Amazon 零碎映像(AMI)产品。“Launch from Website”选项应用软件供应商举荐的软件配置帮忙客户通过几次点击就能够疾速启动一个实例。如下图所示,在软件启动页面,您能够分明看到“Launch from Website”选项。在您实现一些根本设置后,例如 VPC、平安组、密钥对和 Amazon EC2 实例类型,您就能够间接启动软件。

    如果须要更多的配置选项,您仍能够抉择通过 Amazon EC2 控制台启动产品。所有在 AWS Marketplace 下面的产品都曾经通过品质和平安验证并在 AWS 基础设施上预配置了疾速启动性能。
    集中化软件治理
    此次官网上线,AWS Marketplace 还配合推出了 AWS Marketplace 订阅控制台以帮忙您查看和治理所有您在 AWS Marketplace 下面的订阅。在这个控制台中,您能够查看每个产品的 Amazon EC2 实例状态,启动一个新实例,或者勾销您的软件订阅。要拜访这个控制台,您能够在登陆后,在网站的右上角您的用户名的下拉菜单中抉择您的 AWS Marketplace 软件选项,或者您能够在 Amazon EC2 控制台的左侧查找服务中间接输出 AWS Marketplace。如下图所示,AWS Marketplace 订阅控制台蕴含所有您订阅过的产品列表,点击每项产品,你还能够看到产品概述以及相干治理选项。例如,您能够查看某一个产品正在运行的所有实例信息。

    消息来源:优优工场(YOYOWORKS)
正文完
 0