关于gpu:优优工场云原生的GPU虚拟化AI平台产品-XPU-通过亚马逊-AWS-Marketplace对外发布

AWS Marketplace是寰球规模最大最胜利的私有云生态产品和服务目录，它使客户可能轻松查找、测试、部署和治理他们在AWS寰球范畴内以后20个区域（AWS 中国包含北京和宁夏两个区域）运行零碎所须要的第三方软件和服务。借助AWS Marketplace，客户能够从这一应用软件商店查找和比拟软件产品，并在登录其AWS账户后，几分钟内疾速部署和应用预配置的软件产品。客户能够在AWS Marketplace寰球官方网站（https://aws.amazon.com/market...）或 AWS Marketplace 中国官方网站（https://awsmarketplace.amazon...）。

优优工场(YOYOWORKS)作为Amazon AWS寰球和亚马逊云科技（中国）的官网合作伙伴，帮忙客户轻松实现的AI 计算云原生的GPU虚拟化计划。XPU是优优工场(YOYOWORKS)推出的容器GPU虚拟化产品。XPU核心思想是将GPU在内核层进行切分，向上模拟出对立的XPU设施供容器应用，即多个容器共享一张GPU卡。XPU实现了一套框架可能很好的屏蔽异构GPU和利用（TensorFlow，PyTorch等）之间的耦合，对GPU进行故障隔离，显存隔离，算力隔离，从而实现业务的平安隔离，进步GPU硬件资源的利用率并升高应用老本。
XPU 云原生AI平台解决方案，次要劣势如下：

XPU采纳零侵入式架构设计，通过kernel module，services及container runtime为容器提供虚构的GPU设施，在保障性能的前提下隔离显存和算力，为充分利用GPU硬件资源进行训练和推理提供无效保障。

高性能

• 采纳本地应用GPU计算资源的架构，有人造的性能劣势，相比于物理GPU，性能损耗简直为零。
• 反对将GPU切片为任意大小的XPU，从而容许多AI负载并行运行，进步物理GPU利用率。

• 进步GPU综合利用率多达3-10倍，1张卡相当于起到N张卡的成果，真正做到低廉算力平民化。

  安全性

• 完满反对GPU单卡和多卡的算力隔离，显存隔离及故障隔离。

  兼容性

• 零侵入设计： 最大的限度保障向后和向前兼容。用户零开销在 XPU 平台上经营现有AI利用，无缝兼容已有NGC等容器镜像。
• 硬件兼容性： 完满反对包含NVIDIA Pascal及当前架构的系列 GPU（GeForce，Quadro/RTX，Tesla）；反对裸金属和虚拟环境，反对物理GPU和vGPU。
  架构兼容性：依靠实现在内核模块层的通用接口能力，XPU 完满反对CUDA8.0 及当前所有版本的框架和利用。
  生态兼容性：兼容业界规范的Kubernetes和NVIDIA Docker产品和计划。
  AWS Marketplace 寰球网站和AWS Marketplace中国网站是用户应用 AWS 云产品和服务的对立入口。 上面我一 AWS Marketplace 寰球为例介绍用户应用优优工场 XPU 产品和办法（AWS Marketplace中国的办法十分相似，请通过其拜访）
• AWS Marketplace官网反对英文关键词搜寻。以下咱们就向您展现如何通过AWS Marketplace官方网站订阅以及应用XPU。
  第一步：通过AWS Marketplace官方网站搜寻框，搜寻“yoyoworks”或者“XPU”，点击产品并抉择右侧“Continue to Subscribe”XPU
  
  下拉查看详细信息：
  
  
  
  
• 第二步：进入下一页浏览相干内容，以及条款阐明后，点击“Continue to Configuration”按钮。
  
• 第三步：点击“Continue to Configuration”后进入产品配置软件步骤，您能够按需抉择Delivery Method、Software Version、Region三个选项，而后点击“Continue to Launch”按钮
  
• 第四步：在您承受软件相干条款确认订阅并确定区域和软件版本后，您进入“Launch this software”的界面，在此界面中您能够抉择通过网站或者Amazon Elastic Compute Cloud (Amazon EC2)控制台启动Amazon零碎映像（AMI）产品。“Launch from Website”选项应用软件供应商举荐的软件配置帮忙客户通过几次点击就能够疾速启动一个实例。如下图所示，在软件启动页面，您能够分明看到“Launch from Website”选项。在您实现一些根本设置后，例如VPC、平安组、密钥对和Amazon EC2实例类型，您就能够间接启动软件。
  
  如果须要更多的配置选项，您仍能够抉择通过Amazon EC2控制台启动产品。所有在AWS Marketplace下面的产品都曾经通过品质和平安验证并在 AWS基础设施上预配置了疾速启动性能。
  集中化软件治理
  此次官网上线，AWS Marketplace还配合推出了AWS Marketplace订阅控制台以帮忙您查看和治理所有您在AWS Marketplace下面的订阅。在这个控制台中，您能够查看每个产品的Amazon EC2实例状态，启动一个新实例，或者勾销您的软件订阅。要拜访这个控制台，您能够在登陆后，在网站的右上角您的用户名的下拉菜单中抉择您的AWS Marketplace软件选项，或者您能够在Amazon EC2控制台的左侧查找服务中间接输出AWS Marketplace。如下图所示，AWS Marketplace订阅控制台蕴含所有您订阅过的产品列表，点击每项产品，你还能够看到产品概述以及相干治理选项。例如，您能够查看某一个产品正在运行的所有实例信息。
  
  消息来源：优优工场(YOYOWORKS)