在国内政策疏导、企业产业智能降级的原生需要和疫情等多重因素作用下,中国的人工智能产业化利用在过来的5年间呈现出无可比拟的增长速度。然而随着人工智能和机器学习在企业各个业务层面的利用日渐深入,模型类型和数量也都呈快速增长态势。因为不同模型之间的训练框架、部署模式、输入输出都不雷同,导致异构模型难以被对立治理。同时,各部门间短少对立的模型从开发到上线的标准化流程标准,导致模型资产散落在各个业务部门,难以被对立纳管为企业数据资产。一直减少的模型治理老本和运维复杂度,以及生产环境的不可控危险,给企业模型治理带来了一系列挑战。
为解决AI落地难的问题,星环科技的AI团队从用户需要端登程,倾力研发了一款基于云原生架构的企业级AI能力经营平台Sophon MLOps,助推AI模型落地。Sophon MLOps 是基于云原生架构构建的企业级AI能力经营平台,聚焦于机器学习模型全生命周期中的模型治理、模型部署、模型监控预警、模型评估和模型迭代等关键环节。通过对立纳管、对立运维、对立利用、对立监控、对立评估、对立解释,赋予企业客户易用、高效且安全可靠的AI能力经营服务,帮助客户规模化治理日益增长的机器学习模型,晋升模型应用效率,升高模型集成治理老本,管制模型生产环境危险。
Sophon MLOps针对企业AI经营的痛点,围绕企业AI模型接入、经营治理、继续训练的全生命周期,别离提供规模化集成治理、高效模型推理、模型监控预警、模型性能评估、隐衷平安保障等性能,为企业的AI日常经营插上翅膀。
此次更新,MLOps降级至v1.1版本,在已有性能上新增性能如下:
- 新增模型服务批量预测性能:欠缺了利用场景,性能覆盖范围从原有的仅反对在线实时预测,降级为同时反对在线与离线两种模式。离线批量预测性能反对通过间接连贯数据库,获取批量数据进行模型预测,并将后果写回相应库表内,实现闭环;
- 新增模型服务数据偏移指标监控性能:强化了模型服务在监控预警方面的能力,致力于帮忙用户更全面把握机器学习模型服务的运行状态,并通过自定义监控指标及时发现解决异常情况,躲避因数据偏移等起因引起的危险;
- 新增模型服务监控指标配置及告警性能;
- 新增服务公布审批流程治理;
- 新增可解释机器学习XAI模块(MVP版):可解决数据分析过程中的相关性解释、过程性解释、推理性解释和因果性解释问题。用户能够精密地剖析特色与后果之间的影响关系,帮忙用户精准地晋升DataCentric-AI数据治理能力,针对性优化模型精度,帮忙用户疾速定位、优化影响业务后果的重要因子,从而促使业务胜利。
在金融科技行业,随着监管政策的一直收紧,银保监会于2020年7月正式出台了《商业银行互联网贷款治理行方法》,要求商业银行落实模型从开发测试、评审、监测到退出的全生命周期的风险管理。一方面为满足监管合规要求,另一方面晋升行内危险模型的管理效率,银行要求对模型全生命周期进行对立治理。此外,随着行内业务的继续倒退,大量异构AI模型资产散落在各部门,一旦须要应用,调参和部门间协调均使得模型部署周期拉长。
Sophon Base 3.1应用MLOps搭建了全行对立的AI模型治理平台,疾速接入行内积攒的不同框架或平台训练生成的大量模型文件,按版本集成治理模型资产;并建设标准化流程,对立构建模型推理逻辑的形式,反对零代码一键部署模型利用。基于云原生基础架构,买通模型全生命周期流程,实现了银行对模型利用的对立运维和监控。
平台上线后,Sophon Base集成了全行多种算法框架生成的数百个机器学习模型。部署模型利用的均匀工夫由1.5天降至0.5小时,配置老本升高近80%,使模型的均匀迭代周期由1月降至1周。模型效率方面,反对上百个模型预测服务同时在线,单条数据实现毫秒级响应。
Sophon MLOps买通了AI的全生命周期,为企业的各类用户角色搭建了对立的AI合作平台。对于企业而言,MLOps规模化集成治理了多源异构的机器学习模型,并提供高效且保障隐衷平安的模型推理、监控预警及性能评估服务;对用户而言,能感触到操作上的快捷,AI利用与部署更是锦上添花。将来,MLOps将持续迭代更加丰盛的性能,赋能企业AI更快、更好地落地。