共计 2322 个字符,预计需要花费 6 分钟才能阅读完成。
背景
内蒙古自治区农村信用社联合社(简称“内蒙农信”)通过多年的信息化建设,目前投产应用的信息化零碎近 100 套,产生了大量的数据。该社于 2019 年采纳 MPP 架构的分布式数据库,实现了 40 多套业务零碎数据的归集、标准化解决。近年来大数据技术与金融业务深度交融,开释出金融翻新生机和利用潜能。2021 年该社启动了大数据平台我的项目,与星环科技单干,通过一年多的致力,在金融云上部署了 20 个节点的大数据处理集群。
在星环科技大数据根底平台 TDH 的赋能下,内蒙农信晋升了多元异构数据整合能力,补救了实时数据处理、内部数据处理能力的有余,加大了数据辅助决策的力度,同时,通过客户画像,加强了客户辨认、营销、剖析的能力,为业务倒退提供了数据撑持。本次我的项目建设也在业内翻新地开发了线上一体化数据全流程解决产品,让数据处理不再是一个黑匣子,进步了数据应用的效率,为该社将来数字化转型、金融数据变现奠定了松软的技术底座。
案例概述
内蒙农信在大数据平台的建设过程中,融入了互联网的先进技术,同时也借鉴了同业的最佳实际。基于大数据处理技术,内蒙农信联结星环科技构建了基于金融云部署的大数据平台,依靠大数据平台,建设了对立数据门户,实现了信用社内外结构化、半结构化和非结构化数据的实时采集、实时计算、归档和标准化解决,满足了上游零碎数据须要以及实时查问和计算的需要。
建设内蒙农信对立数据门户,蕴含内部数据管理、数据服务、客户标签治理、数据订阅与查问、实时计算、数据模型治理、指标治理及对立登录与对立权限治理性能共七个子系统,实现数据的公布、订阅和查找、数据模型、指标库和数据标签的治理、展现与保护,明细数据的查问与导出,便于数据管理和保护。
解决难点
多元异构数据的整合解决,业务办理人员获取数据的及时性、有效性等始终是业内关注的焦点。内蒙农信通过建设大数据平台,解决了行内外结构化、半结构化和非结构化数据的整合,同时实现了数据的实时采集和计算,为理论业务提供了强有力的数据撑持,进步业务的及时性和有效性。通过大数据平台建设,夯实了内蒙农信数据外围平台的技术底座,能够反对将来危险防控、精准营销、实时数据大屏等利用场景,同时将外围业务零碎、农信银等业务零碎的数据查问压力迁徙至大数据平台,为业务零碎减负。
通过大数据平台建设,内蒙农信欠缺了数据体系架构,减速数据资源的开发利用。我的项目构建了对立的数据门户,实现了数据的一体化线上治理,包含数据公布、订阅和查找,数据模型、指标库和数据标签的治理、展现与保护、历史明细数据的查问与导出等。
如何依靠大数据平台,继续向外提供数据服务?数据服务性能实现对数据服务的对立定义与治理,实现数据服务的对立输入,并实现利用零碎应用数据服务接口的权限的对立治理。我的项目实现的数据服务 API 接口能够实现三个方面的数据服务:内蒙农信目前运行的历史数据查问平台的数据服务接口性能;对已接入内部数据的实时查问服务;客户标签实时查问服务。
翻新亮点
数据全流程线上化
从数据采集、数据建模、数据开发到数据服务全副实现线上化。通过批量采集、日志采集、实时采集等形式将数据采集到 TDH 大数据根底平台,依据数据模型治理功能模块制订的规范模型进行数据建模,线上开发实现数据的加工解决,接口数据服务和文件数据服务为法人机构和上游零碎提供数据撑持,数据订阅和查问晋升了数据的应用效率。
实时服务的数字化响应能力
传统的批量数据处理流程已无奈满足业务倒退须要,大数据平台引进互联网实时数据处理的先进技术,构建了一套从数据采集、计算到提供服务的残缺实时数据处理链路。通过实时计算平台,监控客户实时大额动账交易,可能让网点客户经理及时觉察客户大额资金动向,无效挽留潜在客户散失,同时,也能够揭示客户防止蒙受网络、电信欺骗等带来的资金损失。
多样化的数据服务能力撑持
大数据平台提供多种数据服务撑持业务零碎及法人机构的数据需要,包含以数据订阅的形式撑持批量文件下发,以 API 的形式撑持实时数据的查问,API 反对数据 API、文件 API、注册 API 以及聚合 API 等多种形式,满足不同业务场景的应用需要。
基于微服务的数据产品
大数据平台数据全流程实现线上化,采纳多个数据产品,包含数据服务治理、数据模型治理、客户标签治理、数据订阅与查问、指标治理、内部数据管理、实时计算平台等,所有的数据产品都是基于微服务进行设计和研发,实现容器化部署,齐全基于国产化服务器和操作系统部署。
利用落地
通过大数据平台的建设,从数据的采集到给利用零碎提供数据服务,整个数据处理链路实现了数据全流程可视化治理,整个数据生命周期对于科技人员都是可见、可治理、可操作的。同时,通过血统剖析性能,每一项数据的加工过程都能够追溯。
依照业务倒退须要,大数据平台联合 MPP 架构数据库和基于 Hadoop 框架的分布式大数据处理组件,整合了批量数据、实时数据、结构化和半 / 非结构化数据,通过内部数据管理平台接入了业务所需的内部数据,欠缺了数据起源。建设对立数据门户,实现了业务数据的全量因素集中与实时反馈。夯实了数据根底底座,丰盛了数据处理能力,晋升了数据服务业务的效率。
基于大数据处理技术,构建了实时计算平台,实现了实时数据采集、实时计算与实时反馈;数据订阅与查问,充沛从数据使用者角度思考,实现数据的自助化订阅与查问;数据接口服务,满足不同数据接口应用场景,使数据的应用更加灵便高效;内部数据管理,对立的内部数据管理,为业务零碎提供丰盛的数据起源;数据模型治理,标准化的模型建设,为数据资产治理奠定了根底;指标治理,对每个指标做到精细化治理,包含指标的归属者和血统剖析;客户标签治理,通过客户标签治理,为精准营销提供无力的数据撑持。