近日,百度智能云 ABC Stack 亮相由紫光团体和新华三团体主办的“2023 NAVIGATE 领航者峰会”互联网线上专题论坛。百度智能云公有云部副总经理史磊进行了主题为“百度智能云携手新华三共创互联网新时代”的演讲,分享了百度专有云 ABC Stack 智算版的技术劣势及客户场景化解决方案,和新华三一道向行业客户推介百度专有云智算版行业利用最佳实际。
交融大模型平台的 ABC Stack 智算版
百度是寰球为数不多在新 IT 四层架构(芯片、框架、模型、利用)中的每一层都有当先产品的公司。在这个根底上,百度智能云成为国内率先训练出生成式大语言模型的云。
专有云 ABC Stack 智算版,深度交融了百度智能云打造的一站式企业级大模型平台——文心千帆大模型平台,能够为企业提供大模型开发和利用的全流程的工具和平台。
ABC Stack 智算版作为根底底座,下层进行芯片层、框架层、模型层、应用层纳管,赋予了大模型全流程的集中管控、经营运维统一化能力,更好地把大模型作为行业利用工具推出。在 GPU 虚拟化、高性能网络、分布式存储技术的综合优化下,百度专有云智算版在千卡减速比、资源利用率、开发效率方面有显著晋升。
为更好地服务于企业应用,ABC Stack 智算版应用 VPC/RDMA 双平面网络设计,反对 IB/RoCE 网络供企业依据理论状况灵便抉择。应用 spine-leaf 1:1 的高性能网络,网络应用独自的网络接入及外围交换机,和 VPC 网络底层互通,达到网络不影响、存算效率晋升的目标。基于独立的网络设备,目前 ABC Stack 智算版最大可撑持 16000 卡的 IB 网络,为国内 GPU 智算集群 IB 盒式组网最大规模。采纳扁平化组网架构,GPU 卡数据转发最多 3 跳,缩小数据交互提早。同时,ABC Stack 智算版携手新华三 RDMA 高性能以太网络计划规模化部署,为客户打造智算核心提供了极大的灵活性。
打造一云多芯,合乎监管的国产化云
专有云 ABC Stack 智算版,反对海光、鲲鹏、飞腾等国产化 CPU,和昆仑、寒武纪、昇腾等国产化 GPU,打造合乎行业监管的国产化云。多 CPU 与多 GPU 资源池的架构设计,使得 ABC Stack 智算版在扩展性、效率化两方面有极致体现,在金融银行机构、互金畛域已有落地实际。
反对异构资源池,客户在底层资源抉择上有更多的空间,能够基于业务需要及利用历史适配教训进行抉择。应用 ABC Stack 智算版进行对立纳管,下层管控平台能够实现对多厂家产品无差异化利用部署。
创新型智算网络运维平台
百度智能云和新华三一道进行智算网络的运维翻新。通过智算网络秒级监控运维平台,应用 Netconf、Telemetry 等技术实现对智算网络的流量监控、端口 TOPN、反压报文 PFC 指标、拥塞通告报文等的监控。通过对 RDMA 网络中的 spine、leaf 交换机监控,可实时监控网络品质,第一工夫发现网络拥塞点,理清网络瓶颈点,疾速进行网络故障定位及资源扩容。
在内网网络运维的根底上,百度智能云联结新华三防火墙,打造超高性能公网平安进攻,在云租户侧为客户提供平安保障。创新型网络运维平台和高安全性网络安全配置,使得 ABC Stack 智算版可能更好地保障云上租户平安,打造安全可靠的高性能网络。
多行业 ABC Stack 智算版云平台实际落地
目前,ABC Stack 智算版已在多行业部署落地。在汽车制作畛域,长安汽车应用百度专有云智算版进行数据采集平台、数据标注平台、数据训练平台、模型评估平台的多平台承载,助力主动驾驶集群的顺利落地。目前,此主动驾驶集群已在客户业务中进行应用,帮忙客户数智化转型降级。
在金融畛域,基于 ABC Stack 打造的某清理机构高并发、高性能国产化云在 2021 年上线,截止今日,已承载该清理机构每日数亿笔清理业务,充沛展现了 ABC Stack 高性能、高可靠性的产品属性。
大模型时代,与大模型造成对立管控的云平台成为后续云倒退的新方向。百度智能云 ABC Stack 智算版有先发劣势。和新华三在网络、平安层面的深度单干,有利于百度智能云 ABC Stack 智算版更好地赋能智能将来。将来,百度智能云 ABC Stack 将会持续施展本身“云智一体”的技术和资源优势,携手新华三为千行百业贡献力量,助力企业智能化降级转