DevOps是为适应古代软件系统麻利开发所孕育而生的新模式,将软件开发部门和运维部门的隔膜突破,麻利合作,将产品新性能疾速稳固地交付给用户。越来越多的企业和团队曾经应用DevOps实现了代码公布定期化、部署自动化和交付/集成继续化。
DevOps架构图
Sophon 3.0借鉴DevOps精益生产+麻利开发的治理思维,重塑了全新的MLDev+MLOps架构,为机器学习模型的开发和部署治理插上麻利的翅膀,帮忙企业实现ML模型规模化增长、晋升开发运维效率的同时,继续训练以保障模型的品质。
左手MLDev右手MLOps,Sophon Base 3.0解锁全新架构
Sophon Base降级到3.0版本,将外围组件进行拆合成耦,造成了MLDev+MLOps的左右架构:MLDev负责机器学习模型的构建,含Data数据管理及Vlab可视化建模、Discover编程式建模两种模型训练形式,以满足不同用户的建模需要;而全新打造的MLOps是基于云原生架构的企业级AI能力经营平台,反对用户将通过Sophon MLDev构建或其余路径失去的ML模型文件或模型镜像进行对立治理及经营,MLOps具备灵活多样的模型部署能力,欠缺的模型服务监控预警能力,用户能够借助MLOps对在线模型的继续监控和评估,通过机器学习工作治理构建模型继续训练迭代的pipeline,保障并继续晋升模型成果。
Sophon Base 3.0全新架构
全新的产品架构将业务人员与数据科学家严密联结,并为模型在业务生产后续的可继续倒退提供了实时监控和调优迭代的经营平台,反对不同角色/租户间的我的项目合作、模型共享,切实保障了企业的AI模型资产失去无效存储、治理及后续经营,使模型价值得以继续开释。
DevOps加持,Sophon笼罩机器学习模型的全生命周期治理
Sophon 3.0有了DevOps的加持,可能反对机器学习模型从数据导入->数据摸索->数据预处理->特色工程->模型训练->性能验证->模型部署->模型治理->模型服务->性能评估->模型调优迭代的全生命周期治理。Sophon从2.7LST版本到3.0的跃升,欠缺了AI模型除生产外的纳管、利用、监控和评估幅员,让客户规模化治理日益增长的机器学习模型成为可能,并无效晋升模型应用效率,升高模型集成治理老本,管制模型生产环境的危险。
Sophon Base 3.0对反对不同算法的硬件做了交融计算和针对性优化,大大晋升了计算性能,实现企业建模灵便调度;同时提供了工作流调度服务和业务场景模板服务,可能对企业客户不同业务场景中多个试验触发逻辑和调度依赖进行治理和优化。
Sophon Base笼罩ML模型全生命周期治理
不会编程?Sophon 3.0带你可视化建模和治理
连贯数据集
↓
VLab可视化建模
↓
模型部署及评估
Sophon Base 3.0,企业AI模型部署统管的加速器
在金融科技行业,随着监管政策的一直收紧,银保监会于2020年7月正式出台了《商业银行互联网贷款治理行方法》,要求商业银行落实模型从开发测试、评审、监测到退出的全生命周期的风险管理。一方面为满足监管合规要求,另一方面晋升行内危险模型的管理效率,银行要求对模型全生命周期进行对立治理。此外,随着行内业务的继续倒退,大量异构AI模型资产散落在各部门,一旦须要应用,调参和部门间协调均使得模型部署周期拉长。
Sophon Base 3.0应用MLOps搭建了全行对立的AI模型治理平台,疾速接入行内积攒的不同框架或平台训练生成的大量模型文件,按版本集成治理模型资产;并建设标准化流程,对立构建模型推理逻辑的形式,反对零代码一键部署模型利用。基于云原生基础架构,买通模型全生命周期流程,实现了银行对模型利用的对立运维和监控。
平台上线后,Sophon Base集成了全行多种算法框架生成的数百个机器学习模型。部署模型利用的均匀工夫由1.5天降至0.5小时,配置老本升高近80%,使模型的均匀迭代周期由1月降至1周。模型效率方面,反对上百个模型预测服务同时在线,单条数据实现毫秒级响应。
银行AI模型治理平台功效
Sophon Base还提供了在线试用性能,数据荡涤、剖析开掘、机器学习、深度学习、模型治理、API部署、工作流调度等性能一应俱全,助力企业AI时代业务翻新与改革。记得点击浏览原文申请试用哦~
还想理解更多?扫描下方二维码