摘要：工行采纳了华为云FusionInsight MRS大数据存算拆散计划，实现了大数据平台与OBS对象存储服务的对接，将原有的HDFS数据无缝迁徙到OBS上。在保障性能的前提下，实现了计算与存储独立按需扩容，轻松应答业务浪涌，晋升资源整体利用率。
工商银行作为数字金融的领导者，践行“科技引领，翻新赋能”的倒退理念，继续晋升工行金融服务实体经济的能力。工商银行和华为发展联创工作，引入了华为云FusionInsight智能数据湖，搭建了自主牢靠的大数据平台，解决了大数据全场景生态化利用的存储、算力和算法挑战，撑持了工商银行企业级数据湖、数据仓库、团体信息库的建设，数据智能服务由预先疾速演进到事先、事中的阶段。
【业务挑战】
传统大数据存储计算耦合，TCO高
工行之前应用传统大数据的三正本存储性价比低，往往10PB的存储空间，无效容量仅3PB；同时存在存储、计算等资源不平衡，往往存储利用率超过70%，但CPU利用率有余50%，扩容时须要计算、存储资源一起扩容，存在资源节约景象。
湖仓数据割裂，产生数据孤岛，协同剖析难
工行外部应用SAS等工具通过HiveQL拜访数据湖数据性能差，均匀响应工夫5分钟~2小时，并发能力有余（<10并发）。湖仓数据割裂，关联剖析须要通过繁冗的ETL工作，将数据加工后加载到OLAP集市，数据链路长，剖析效率和开发效率都很低。
平台降级需中断，短少平滑演进能力
工行大数据平台的Hadoop批量集群已超过1000节点，日均解决作业10万+，数据存储数十PB，承载了全行重点批量作业，其中包含反欺诈、精准营销等多个重要业务场景，服务连续性需要较高。而大数据技术迭代快，传统降级形式需断电、重启等操作，降级操作简单，影响现网业务运行，且大集群降级耗时长，突发故障易中断降级动作。
【解决方案】
华为云FusionInsight MRS云原生数据湖助力构筑金融大数据平台
工行采纳了华为云FusionInsight MRS大数据存算拆散计划，实现了大数据平台与OBS对象存储服务的对接，将原有的HDFS数据无缝迁徙到OBS上。在保障性能的前提下，实现了计算与存储独立按需扩容，轻松应答业务浪涌，晋升资源整体利用率。华为独有的Flex-EC技术将正本率升高至1:1.25，存储资源优化晋升2.4倍。
工行大数据平台承载了总行和200+分支行的数据，为了解决数据分布散、协同难等问题，升高金融分析师的用数难度，工行采纳了华为云FusionInsight MRS 的HetuEngine服务，通过HetuEngine引擎实现跨地市的协同计算，一个SQL连贯就能够拜访全副数据源，间接做碰撞剖析，实现湖仓互联互通协同剖析，防止不必要的ETL流程，缩小数据搬迁
大数据技术疾速倒退，为满足业务变动倒退需要，工行采纳了华为云FusionInsight MRS 滚动降级计划，借助于Hadoop外围组件的高可用机制， MRS依照依赖档次，多层次并行，在不影响集群整体业务的状况下，一次降级/重启大量节点，根据组件和实例的依赖关系，主动编排降级批次。降级过程中，隔离故障节点，待降级实现后，再进行故障解决。循环滚动，直至集群所有节点降级到新版本。
【客户价值】
MRS存算拆散计划，TCO升高60%
计算/存储解绑定，精准投资，灵便扩大，计算资源利用率晋升30%+，存储资源利用率晋升100%+，TCO升高60%。对立数据存储底座，多个计算集群共享同一份数据，升高业务布局、扩容、保护难度，提供百亿文件EB级扩大能力。
HetuEngine跨源跨源协同
应用华为云自研框架HetuEngine，大幅度降低计算资源节约，仅原1/5的硬件资源即可反对45+并发，跨源跨源协同剖析性能晋升至秒级，兼容99% Hive语法，利用无缝迁徙。
MRS滚动降级实现架构平滑演进，业务0中断
通过华为云FusionInsight滚动降级能力，实现大集群分批次滚动降级，业务0中断；故障节点隔离性能确保降级动作的稳固运行，实现7*24小时不间断服务；1000+精细化运维指标及可视化操作简化运维，实现一个架构继续演进。
将来为满足工行业务高速倒退需要，工行金融数据湖规模将达3000+节点，满足工商银行批处理、流解决、交互式剖析等大数据利用场景, 进一步晋升数据洞察能力和基于场景的数据挖掘能力，充沛开释大数据作为根底型策略资源的外围价值。
本文分享自华为云社区《华为云FusionInsight助力宇宙行打造金融数据湖新标杆》，原文作者：徐礼锋。
点击关注，第一工夫理解华为云陈腐技术~
发表回复