关于阿里云:汇量科技使用倚天710云实例-高效处理大流量广告请求

31次阅读

共计 2139 个字符,预计需要花费 6 分钟才能阅读完成。

案例速览

行业:互联网广告服务

挑战:撑持业务疾速倒退、广告模型构造降级,晋升技术需要的同时,实现降本增效

解决方案与产品:基于倚天 710 芯片的 g8y 倚天云实例、ESS 弹性伸缩服务、Spot 抢占式实例

成绩:通过应用阿里云解决方案,汇量科技顺利承接了大流量接入广告业务申请。性能晋升的同时,单机老本升高 15-20%,综合性价比晋升 30% 以上。

背景

汇量科技成立于 2013 年,是寰球当先的第三方技术平台,提供包含用户获取、成果掂量、创意自动化、广告变现等全方位能力的 Saas 服务矩阵。其中,Mintegral、Nativex、热力引擎等品牌及旗下产品,造成了丰盛且互为补充的产品状态。目前已累计服务 112 个国家的 7000 多家互联网企业,笼罩 247 个国家及地区。

随着汇量科技广告业务一直倒退的同时,客户重点方向转向晋升客户满意度、加强客户忠诚度,从而进步企业的市场竞争力,另外也要通过降本增效进步企业的经营效率,缩小企业经营老本,进步经济效益等。

业务挑战

降本 & 技术需要:广告投放业务每日所需的用云资源量稳定微小,为满足各地业务所需波峰与波谷,心愿实现灵便、稳固、老本优化。

广告推理和流量染指性能需求:广告推理服务精排模块,随广告模型构造一直降级,在线推理模型申请参数变多,客户对 ECS 实例的性能及内网带宽需要更高,局部 AI 业务算力存在性能有余状况。具体而言,大量用户对成果广告进行点击时,业务零碎须要对海量流量进行推理剖析等操作,如此大流量染指场景下,原来应用的第六代企业级实例 g6 的网络带宽等性能无奈承载如此大流量,同时性价比不如预期。汇量科技心愿在实现业务诉求的基本上实现老本优化。

产品 & 解决方案

在通用计算方面,晚期 g6 系列整体内网带宽等性能指标不满足需要,通过应用第八代 ECS 云实例 g8y,即倚天云实例,实现了同时晋升 CPU 性能和内网带宽,与 g6 系列比照单机老本升高 15-20%,综合性价比晋升 30% 以上。

搭载倚天 710 芯片的倚天云实例自设计初就是一款云原生产品,倚天 710 是平头哥半导体公布的首颗为云而生的 CPU 芯片,单芯片包容高达 600 亿晶体管;在芯片架构上,基于 ARMv9 架构,内含 128 核 CPU,主频 2.75GHz,能同时兼顾性能和功耗。在内存和接口方面,集成 DDR5、PCIe5.0 等技术,能无效晋升芯片的传输速率,并且可适配云的不同利用场景。阿里云提供丰盛的生态工具,反对全利用生态适配,0 代码批改即可实现支流业务迁徙。性能方面,倚天 710 绝对于传统 CPU 架构有三大劣势,第一,外部 128 核为独享物理核,防止了超线程核性能争抢问题;第二,低功耗设计,高规格实例能够实现线性性能增长,防止功耗过高导致降频问题;第三,大 Cache 设计,晋升云场景访存性能。因而,倚天云实例在广告在线推理业务上有很大的性能劣势。

随着业务倒退与广告模型构造一直降级,在线推理模型申请参数增长速度越来越快,内网带宽要求越来越高,为了适应业务一直增长带宽需要,阿里云推出基于 CIPU(Cloud infrastructure Processing Units,云基础设施处理器)与倚天硬件架构的 ECS 实例,通过将虚拟化与 IO 转发等工作卸载到专用硬件上进行减速,并在 VPC 环境下反对弹性 RDMA 减速能力,相比 TCP 时延升高 70% 以上,满足了广告推理业务对带宽和时延的要求。

通过联合 ESS 弹性伸缩服务与 Spot 抢占式实例等产品,并采纳了按量付费的节俭打算计费模式,在线的非数据库依赖模块全采纳动静伸缩的模式进行资源调控,在高峰期时及时凋谢资源,低谷期时缩减资源,保障资源利用率始终在一个正当的程度,从而确保了老本的最优化。

弹性伸缩是阿里云的一种资源管理服务,能够依据用户的业务运行状况和弹性策略,主动创立和开释资源。而抢占式实例是阿里云推出的一种低成本竞价实例,相似于广告竞价模式。企业须要在创立抢占式实例时指定出价价格,当指定实例的市场价格低于企业出价且库存短缺时,用户即可依照出价购买并应用该实例 1 小时。而 1 小时后,当市场价格高于企业指定价格,实例会主动开释。

对于局部 AI 业务性能有余的问题,通过降级最新算力晋升性价比,基于神龙计算架构的异构计算云实例,同时具备了 IO 低延时和计算低延时,进一步升高了广告申请的延时,进步了业务效率。

客户收益

通过应用阿里云倚天实例,汇量科技顺利承接了大流量接入广告业务申请。性能晋升的同时,单机老本升高 15-20%,综合性价比晋升 30% 以上。

汇量科技的在线计算广告平台和大数据平台,总体有 72% Spot 资源运行,达到老本极致优化的同时,线上稳定性放弃在高水平,并通过一系列老本优化伎俩,老本优化率大幅晋升。

应用阿里云各种 API 和服务,总体效率也失去了极大的晋升,综合运维操作和治理的日常效率进步了超过 90%。

汇量科技首席人工智能官朱小强示意:“广告推理服务精排模块,随广告模型构造一直降级,在线推理模型申请参数变多,对 ECS 实例的 CPU 性能及内网带宽需要更高。晚期 g6 系列整体内网带宽等性能指标不满足需要,通过应用 g8y 倚天云实例同时晋升 CPU 性能和内网带宽,和 g6 系列比照单机老本升高 15-20%,综合性价比晋升 30% 以上。”

原文链接

本文为阿里云原创内容,未经容许不得转载。

正文完
 0