近日,百度智能云ABC Stack亮相由紫光团体和新华三团体主办的“2023 NAVIGATE 领航者峰会”互联网线上专题论坛。百度智能云公有云部副总经理史磊进行了主题为“百度智能云携手新华三共创互联网新时代”的演讲,分享了百度专有云ABC Stack智算版的技术劣势及客户场景化解决方案,和新华三一道向行业客户推介百度专有云智算版行业利用最佳实际。
交融大模型平台的ABC Stack智算版
百度是寰球为数不多在新IT四层架构(芯片、框架、模型、利用)中的每一层都有当先产品的公司。在这个根底上,百度智能云成为国内率先训练出生成式大语言模型的云。
专有云ABC Stack智算版,深度交融了百度智能云打造的一站式企业级大模型平台——文心千帆大模型平台,能够为企业提供大模型开发和利用的全流程的工具和平台。
ABC Stack智算版作为根底底座,下层进行芯片层、框架层、模型层、应用层纳管,赋予了大模型全流程的集中管控、经营运维统一化能力,更好地把大模型作为行业利用工具推出。在GPU虚拟化、高性能网络、分布式存储技术的综合优化下,百度专有云智算版在千卡减速比、资源利用率、开发效率方面有显著晋升。
为更好地服务于企业应用,ABC Stack智算版应用VPC/RDMA双平面网络设计,反对IB/RoCE网络供企业依据理论状况灵便抉择。应用spine-leaf 1:1的高性能网络,网络应用独自的网络接入及外围交换机,和VPC网络底层互通,达到网络不影响、存算效率晋升的目标。基于独立的网络设备,目前ABC Stack智算版最大可撑持16000卡的IB网络,为国内GPU智算集群IB盒式组网最大规模。采纳扁平化组网架构,GPU卡数据转发最多3跳,缩小数据交互提早。同时,ABC Stack智算版携手新华三RDMA高性能以太网络计划规模化部署,为客户打造智算核心提供了极大的灵活性。
打造一云多芯,合乎监管的国产化云
专有云ABC Stack智算版,反对海光、鲲鹏、飞腾等国产化CPU,和昆仑、寒武纪、昇腾等国产化GPU,打造合乎行业监管的国产化云。多CPU与多GPU资源池的架构设计,使得ABC Stack智算版在扩展性、效率化两方面有极致体现,在金融银行机构、互金畛域已有落地实际。
反对异构资源池,客户在底层资源抉择上有更多的空间,能够基于业务需要及利用历史适配教训进行抉择。应用ABC Stack智算版进行对立纳管,下层管控平台能够实现对多厂家产品无差异化利用部署。
创新型智算网络运维平台
百度智能云和新华三一道进行智算网络的运维翻新。通过智算网络秒级监控运维平台,应用Netconf、Telemetry等技术实现对智算网络的流量监控、端口TOPN、反压报文PFC指标、拥塞通告报文等的监控。通过对RDMA网络中的spine、leaf交换机监控,可实时监控网络品质,第一工夫发现网络拥塞点,理清网络瓶颈点,疾速进行网络故障定位及资源扩容。
在内网网络运维的根底上,百度智能云联结新华三防火墙,打造超高性能公网平安进攻,在云租户侧为客户提供平安保障。创新型网络运维平台和高安全性网络安全配置,使得ABC Stack智算版可能更好地保障云上租户平安,打造安全可靠的高性能网络。
多行业ABC Stack智算版云平台实际落地
目前,ABC Stack智算版已在多行业部署落地。 在汽车制作畛域,长安汽车应用百度专有云智算版进行数据采集平台、数据标注平台、数据训练平台、模型评估平台的多平台承载,助力主动驾驶集群的顺利落地。目前,此主动驾驶集群已在客户业务中进行应用,帮忙客户数智化转型降级。
在金融畛域,基于ABC Stack打造的某清理机构高并发、高性能国产化云在2021年上线,截止今日,已承载该清理机构每日数亿笔清理业务,充沛展现了ABC Stack高性能、高可靠性的产品属性。
大模型时代,与大模型造成对立管控的云平台成为后续云倒退的新方向。百度智能云ABC Stack智算版有先发劣势。和新华三在网络、平安层面的深度单干,有利于百度智能云ABC Stack智算版更好地赋能智能将来。将来,百度智能云ABC Stack将会持续施展本身“云智一体”的技术和资源优势,携手新华三为千行百业贡献力量,助力企业智能化降级转