案例速览

行业:互联网广告服务

挑战:撑持业务疾速倒退、广告模型构造降级,晋升技术需要的同时,实现降本增效

解决方案与产品:基于倚天710芯片的g8y倚天云实例、ESS弹性伸缩服务、Spot抢占式实例

成绩:通过应用阿里云解决方案,汇量科技顺利承接了大流量接入广告业务申请。性能晋升的同时,单机老本升高15-20%,综合性价比晋升30%以上。

背景

汇量科技成立于2013 年,是寰球当先的第三方技术平台,提供包含用户获取、成果掂量、创意自动化、广告变现等全方位能力的Saas服务矩阵。其中,Mintegral、Nativex、热力引擎等品牌及旗下产品,造成了丰盛且互为补充的产品状态。目前已累计服务112个国家的7000多家互联网企业,笼罩247个国家及地区。

随着汇量科技广告业务一直倒退的同时,客户重点方向转向晋升客户满意度、加强客户忠诚度,从而进步企业的市场竞争力,另外也要通过降本增效进步企业的经营效率,缩小企业经营老本,进步经济效益等。

业务挑战

降本&技术需要:广告投放业务每日所需的用云资源量稳定微小,为满足各地业务所需波峰与波谷,心愿实现灵便、稳固、老本优化。

广告推理和流量染指性能需求:广告推理服务精排模块,随广告模型构造一直降级,在线推理模型申请参数变多,客户对ECS实例的性能及内网带宽需要更高,局部AI业务算力存在性能有余状况。具体而言,大量用户对成果广告进行点击时,业务零碎须要对海量流量进行推理剖析等操作,如此大流量染指场景下,原来应用的第六代企业级实例g6的网络带宽等性能无奈承载如此大流量,同时性价比不如预期。汇量科技心愿在实现业务诉求的基本上实现老本优化。

产品&解决方案

在通用计算方面,晚期g6系列整体内网带宽等性能指标不满足需要,通过应用第八代ECS云实例g8y,即倚天云实例,实现了同时晋升CPU性能和内网带宽,与g6系列比照单机老本升高15-20%,综合性价比晋升30%以上。

搭载倚天710芯片的倚天云实例自设计初就是一款云原生产品,倚天710是平头哥半导体公布的首颗为云而生的 CPU 芯片,单芯片包容高达600亿晶体管;在芯片架构上,基于ARMv9架构,内含128核CPU,主频2.75GHz,能同时兼顾性能和功耗。在内存和接口方面,集成DDR5、PCIe5.0等技术,能无效晋升芯片的传输速率,并且可适配云的不同利用场景。阿里云提供丰盛的生态工具,反对全利用生态适配,0代码批改即可实现支流业务迁徙。性能方面,倚天710绝对于传统CPU架构有三大劣势,第一,外部128核为独享物理核,防止了超线程核性能争抢问题;第二,低功耗设计,高规格实例能够实现线性性能增长,防止功耗过高导致降频问题;第三,大Cache设计,晋升云场景访存性能。因而,倚天云实例在广告在线推理业务上有很大的性能劣势。

随着业务倒退与广告模型构造一直降级,在线推理模型申请参数增长速度越来越快,内网带宽要求越来越高,为了适应业务一直增长带宽需要,阿里云推出基于CIPU(Cloud infrastructure Processing Units,云基础设施处理器)与倚天硬件架构的ECS实例,通过将虚拟化与IO转发等工作卸载到专用硬件上进行减速,并在VPC环境下反对弹性RDMA减速能力,相比TCP时延升高70%以上,满足了广告推理业务对带宽和时延的要求。

通过联合ESS弹性伸缩服务与Spot抢占式实例等产品,并采纳了按量付费的节俭打算计费模式,在线的非数据库依赖模块全采纳动静伸缩的模式进行资源调控,在高峰期时及时凋谢资源,低谷期时缩减资源,保障资源利用率始终在一个正当的程度,从而确保了老本的最优化。

弹性伸缩是阿里云的一种资源管理服务,能够依据用户的业务运行状况和弹性策略,主动创立和开释资源。而抢占式实例是阿里云推出的一种低成本竞价实例,相似于广告竞价模式。企业须要在创立抢占式实例时指定出价价格,当指定实例的市场价格低于企业出价且库存短缺时,用户即可依照出价购买并应用该实例1小时。而1小时后,当市场价格高于企业指定价格,实例会主动开释。

对于局部AI业务性能有余的问题,通过降级最新算力晋升性价比,基于神龙计算架构的异构计算云实例,同时具备了IO低延时和计算低延时,进一步升高了广告申请的延时,进步了业务效率。

客户收益

通过应用阿里云倚天实例,汇量科技顺利承接了大流量接入广告业务申请。性能晋升的同时,单机老本升高15-20%,综合性价比晋升30%以上。

汇量科技的在线计算广告平台和大数据平台,总体有72% Spot资源运行,达到老本极致优化的同时,线上稳定性放弃在高水平,并通过一系列老本优化伎俩,老本优化率大幅晋升。

应用阿里云各种API和服务,总体效率也失去了极大的晋升,综合运维操作和治理的日常效率进步了超过90%。

汇量科技首席人工智能官朱小强示意:“广告推理服务精排模块,随广告模型构造一直降级,在线推理模型申请参数变多,对ECS实例的CPU性能及内网带宽需要更高。晚期g6系列整体内网带宽等性能指标不满足需要,通过应用g8y倚天云实例同时晋升CPU性能和内网带宽,和g6系列比照单机老本升高15-20%,综合性价比晋升30%以上。”

原文链接

本文为阿里云原创内容,未经容许不得转载。