近日,沐曦集成电路(上海)有限公司(以下简称“沐曦”)的曦思®N100 人工智能推理 GPU 与百度飞桨实现 I 级兼容性测试。测试结果显示,单方兼容性体现良好,整体运行稳固。这是沐曦自 2022 年 9 月退出“硬件生态共创打算”后的阶段性成绩。
本次 I 级兼容性测试基于 Paddle2ONNX 工具,实现了计算机视觉技术畛域包含图像分类、指标检测和 OCR 等畛域共计 10 个模型的验证。经单方联结严格测试表明,曦思®N100 在 ResNet50、YOLOv3、det_mv3_db 等模型上的精度和性能的体现满足要求,与飞桨的兼容性良好,整体运行稳固,达到了 I 级适配互认要求,推理性能能够满足用户的利用需要。
曦思®N100 是一款面向云端数据中心利用的人工智能推理 GPU,内置 MXN100 异构 GPGPU 处理器以及 HBM2E 高带宽显存,单卡算力达 160TOPS(INT8)和 80TFLOPS(FP16),兼备高带宽和低延时的个性,可能提供高达 128 路编码和 96 路解码的高清视频解决能力, 兼容 HEVC、H.264、AV1、AVS2 等多种视频格式,最高反对 8K 分辨率。同时装备自主研发的 MXMACA®软件栈,与硬件架构严密耦合,反对多种支流框架的网络模型,以及支流计算机视觉解决和多媒体解决框架。通过继续欠缺的 ModelZoo,客户能够开箱即用,实现了各类利用场景和业务模型的疾速迁徙。曦思®N100 可广泛应用于智慧城市、智慧交通、云计算、智能视频解决等行业多场景。目前,该产品已实现规模量产,并与多家重点行业客户及服务器厂商联结打造利用落地解决方案,发展深度的生态单干。
“此次与飞桨实现兼容性测试,证实曦思®N100 在计算机视觉畛域与飞桨模型高度适配,这是单方共创打算单干的重要成绩,体现了沐曦产品的高度成熟度和宽泛适用性。”沐曦联结创始人、CTO 兼首席软件架构师杨建示意:“将来,沐曦将与飞桨进一步深入单干,面向更多智能应用领域,独特打造更宽泛的软硬件一体解决方案,减速 AI 产业利用落地,促成人工智能产业链和数字经济的高质量倒退。”
飞桨(PaddlePaddle)以百度多年的深度学习技术钻研和业务利用为根底,集深度学习外围训练和推理框架、根底模型库、端到端开发套件、丰盛的工具组件于一体,是中国首个自主研发、功能丰富、开源凋谢的产业级深度学习平台。目前,飞桨已凝聚 535 万开发者,基于飞桨创立 67 万个模型,服务 20 万家企事业单位。与飞桨适配的国内外芯片 /IP 厂商已超过 40 家,飞桨与硬件厂商的单干也进入了新阶段。2022 年,飞桨携手国内外近 30 家硬件厂商联结公布硬件生态共创打算,联合搭档自有软硬件根底开发栈特色,针对不同利用场景和产品,独特推出厂商定制版飞桨框架,建设开源凋谢模型库,开发课程与培训内容等,以更好地服务开发者。
将来飞桨将联结更多硬件搭档通过技术的联结研发和生态共建,一起开辟更多软硬件协同的产品和性能,共创单干共赢生态模式。在此,飞桨诚邀更多企业退出硬件生态共创打算,聚生态之力,独特打造软硬一体的全栈式人工智能平台,促成人工智能产业链高质量倒退。
点击下方链接申请加入“硬件生态共创打算”
https://www.paddlepaddle.org.cn/hardware_co_creation