关于大数据处理:实时数据管理实战派DataPipeline亮相FCS-2021中国证券基金和资管CIO峰会

41次阅读

共计 3240 个字符,预计需要花费 9 分钟才能阅读完成。

9 月 26-27 日,FCS 2021 第三届中国证券、基金和资管 CIO 峰会在上海隆重召开。本次大会围绕“数字重构价值·改革驱动增长”主题开展,邀请到金融、政府、IT 等多畛域的千余名行业学者、领域专家,深入探讨寰球环境下金融机构数字化、危险管制等能力对企业的深刻影响,共话数字化金融新将来。


DataPipeline 产品负责人徐志超

在题为“聚焦数字化财产治理·科技重塑行业价值”的主论坛中,DataPipeline 产品负责人徐志超受邀作《企业实时数据管理问题与实际》的宗旨发言。他针对企业实时数据管理利用中面对的次要问题、DataPipeline 企业级实时数据交融平台解决方案及 DataPipeline 的行业实际与劣势几项议题与现场嘉宾进行了探讨。
徐志超谈道:
“在新的倒退阶段,技术引擎异构趋势显著,数据的交融翻新正在成为新常态。数据交融是企业数字化转型的源头,是数据实时、残缺、稳固、统一的基本撑持。只有领有了高质量的原始数据,企业能力真正走出扎实地数字化转型之路。
随着人民银行《金融科技 (FinTech) 倒退布局 (2019-2021 年)》等一系列顶层布局落地施行,中国金融科技政策环境和监管规定体系一直优化。越来越多的金融机构重视翻新技术利用并且踊跃寻求与社会企业单干摸索金融科技新场景。在业务场景中倒退全新的生态体系成为了传统金融机构弯道超车、造成竞争壁垒的次要抉择之一。
咱们可能取得包含民生银行、中国人寿(海内)、山东城商行联盟、财通证券、山西证券、恒泰证券、国盛证券、财通资管、中国石油、吉利团体、星巴克、顺丰在内的百余家重量级企业客户的青眼,得力于 DataPipeline 企业级实时数据交融平台从理念到架构、从性能到性能、从计划到技术,全面围绕并适应以后的用户需要及产业倒退态势。产品打出‘基于日志的实时增量数据获取技术’、‘反对支流关系型数据、大数据平台及国产数据库’、‘分层治理按需服务’、‘高容错分布式架构’等一整套的劣势组合拳。”

业务需要降级 召唤实时数据管理翻新

目前,企业面临市场竞争和用户行为的巨大变化,必须一直放慢本身进化速度。同时,业务需要降级往往要求经营模式的转变,以多速 IT 应答理论场景需要、疾速响应实时数据的要求。但在企业该转型翻新过程中,面临着多重问题:

  • 各类数据管理技术差别越来越大,全面、精确的实时数据获取艰难,企业内实用不同场景的数据管理技术不尽相同,技术壁垒妨碍数据价值开释。
  • 惯例端到端实时数据链路以月为单位的构建效率已无奈适应外部环境的变动,业务须要更高的敏捷性来应答,这须要整个数字化组织能够体系化且可预见性地进行多速、麻利的业务场景撑持。过多的技术储备要求与研发老本也成为妨碍疾速建设竞争劣势的重要因素。
  • 从客户行为剖析到非交易类的触客业务到事件营销再到风控评分,实时数据链路逐步成为业务经营的重要撑持。作为买通各业务零碎数据通道的中间层,实时数据链路的稳定性与容错性也成为重点与难点。

实力过硬 做金融数字化翻新基础设施

针对企业面临的问题,DataPipeline 提供企业级实时数据交融平台解决方案,通过基于日志的增量数据获取等多种实时数据技术,帮助客户构建以业务指标为导向的数据链路,按需疾速定制、部署、执行数据工作,反对从传统数据处理到实时数据利用的各类场景,齐全满足金融行业高性能、高可用、高稳固、高可控等的能力诉求。产品具备“全、敏、稳”等几大个性:

DataPipeline 企业级实时数据交融平台整体架构

  • DataPipeline 企业级实时数据交融平台目前反对 Oracle、IBM DB2、MySQL、Microsoft SQL Server 及 PostgreSQL 等数据库的实时增量数据捕捉,对大数据平台、国产数据库、云原生数据库、API 及对象存储也提供宽泛的反对,并在一直扩大。
  • 产品形象为“数据节点、数据链路、交融工作及系统资源”四个根本逻辑,只需通过二至三项简略配置就能够定义出能够执行的交融工作,同时对各个环节进行分层治理,在无效满足零碎运维治理需要的前提下,晋升实时数据获取与治理在各个环节的配合效率。
  • 交融引擎采纳分布式架构,容器化部署,能够保证系统业务连续性要求。在分布式集群的根底上,平台采纳系统资源组的模式隔离不同工作的运行环境,保障重要工作的稳固有序运行。

宽泛验证 实时数据管理实战派

在银行畛域,DataPipeline 帮助构建的民生银行实时数据同步管道平台通过近百个实时数据工作将客户行为等实时数据进行标准化补全并散发到生产计算方,用于各类实时数据加工场景。该体系交融了 IBM DB2、MySQL、Kafka、Redis、GaussDB、SequoiaDB、HDFS 在内的多种数据根底组件,实现对次要交易系统每日产生的数亿条数据的整合。DataPipeline 助力山东省城商行联盟构建的企业级数据库准实时数据采集零碎可实现 IBM DB2,Oracle,MySQL 等多种外围数据库的实时数据采集性能,在金融级的稳固高容错能力方面受到客户高度认可。
在保险畛域,某世界五百强金融企业买通用户行为数据、承保 / 退保 / 理赔 / 销售等业务数据及计算剖析后果数据,高效反对营销、风控、经营等业务部门取数及用数需要,IT 零碎交融 Oracle、Microsoft SQL Server、MySQL、TiDB 在内的近十种数据库治理技术,实现从外围业务零碎到客户端的多个零碎产生的数十亿条数据的整合。
在证券畛域,DataPipeline 联结财通证券建设的数据采集同步集群实现了公司含外围零碎在内 50+ 业务零碎的数据交换,被客户赞为“合乎金融行业数据流转稳固要求、操作简略、运维压力低、自定义能力强且对业务零碎与业务人员十分敌对的零碎”。
在生产金融畛域,DataPipeline 携手某头部汽车金融企业构建的实时数据平台接入 MES、ERP、CRM、批发、批售、征信、反欺等零碎,适配 Oracle、Microsoft SQL Server、MySQL、PostgreSQL、TiDB、Hive、Kafka、HBase 等数十种数据库近实时的数据采集性能,大幅晋升了企业风控、营销等的能力。
一笔生产、一度电、突飞猛进的金融业倒退、繁忙不息的产线……更多企业正因实时数据管理的加持悄悄扭转。这背地的技术都来源于 DataPipeline 企实时数据交融产品。
面对不同的实时数据利用需要,DataPipeline 企业级实时数据交融平台都能以专业化产品与解决方案的形式升高了企业搭建根底平台的研发老本与运维老本,晋升数据利用的效力,满足客户的业务需要,高效解决企业数据管理中“最后一公里”的问题。

目前,DataPipeline 已笼罩金融、批发、能源、制作、地产等重点畛域,产品被利用在客户服务、生产调度、经营治理、业务剖析等重要场景中。DataPipeline 企业级数据交融平台在零碎稳定性、可管理性、扩展性、灵活性方面通过了重复验证。同时,为了给以金融为代表的国民支柱型行业提供平安可信的数据管理撑持,DataPipeline 正在踊跃拥抱国产化布局,开展兼容适配助力欠缺信创产业链生态。截止目前,DataPipeline 已成为中国电子工业标准化技术协会信息技术利用翻新工作委员会会员单位,产品已与华为鲲鹏云、华为 GaussDB、SequoiaDB 巨杉数据库、星环大数据平台 Transwarp Data Hub、河汉麒麟高级服务器操作系统(鲲鹏版)V10、TiDB、HashData、西方金信海盒数据库管理系统等多个软硬件产品实现全面兼容认证且性能优异,可能无力服务各畛域信息化程度当先的用户。
“交融”的表象是数据流转,基本是价值在企业外部传导的过程,助力数据交融与共享的“链路构建”是企业数字化转型的必经之路。将来,DataPipeline 将持续保持技术驱动、深耕企业服务,以全面的实时数据管理计划助力企业在新的竞争中取得先机,实现单干共赢。

点我理解 DataPipeline 更多信息并收费试用

正文完
 0