关于大数据:干货DataPipeline2021数据管理与创新大会全篇划重点

46次阅读

共计 5502 个字符,预计需要花费 14 分钟才能阅读完成。

7 月 29 日,以“万「向」更新”为主题,DataPipeline2021 数据管理与翻新大会在北京胜利举办!中国信通院云计算与大数据研究所副所长魏凯、中信银行信息技术管理部架构管理处处长卫东、民生银行总行科技大数据管理部技术专家钟行、山东省城商行联盟外围运维组技术专家倪俊甜、中国信息协会专家范克峰、华为计算产品线 openGauss 数据库产品总经理胡正策与 DataPipeline 数见科技管理层及来自该畛域的专家学者、用户代表、生态搭档共聚一堂,共话产业时机与挑战,共探数据管理与翻新实际新模式。以期通过“万「向」汇聚,数据新生”的共识,发明行业新价值。
DataPipeline 示意,数字化转型被按下减速键,产业降级对实时数据管理能力提出前所未有的要求,所有数据都被要求相互连接并能随时被看到、被感知、被调用。实时数据管理体系的建设既须要看透“后期实时数据平台建设、中期深入实时数据价值开释、远期实时数据驱动业务倒退”大周期的视角,也须要从平台类基础设施构建登程、对“人员、流程、技术”继续精进的急躁。这种秉承长期主义的准则与 DataPipeline 数见科技的产品与技术倒退理念不约而同。

01 数据因素化催生技术与治理改革

数据全生命周期治理与价值导向的经营治理成为倒退方向


中国信通院云计算与大数据研究所副所长魏凯

随着信息经济倒退,数据早已和其它因素一起融入经济价值发明过程。中国信通院云计算与大数据研究所副所长魏凯示意:以后,咱们处于迎接数据生产因素崛起的新时代。在数字化转型过程中,数据作为生产因素,一方面在驱动产业智能化、催生新的生产组织状态方面的作用一直浮现,推动新型产品和服务的发明;另一方面,作为参加调配的因素,数据背地波及经济构造的变动。它对于咱们数据的技术、底层基础设施等有很大的需要,所以咱们管理体系、理念、方法论也有很大翻新的需要。这次要体现在:

第一. 数据因素化须要一场技术反动:
组织外部从以前谋求数据高效解决、谋求更快更大,到明天更器重数据更加智能及良好的治理。数据不再是简略地放在数据库里就能产生价值,而是要高质量的交融起来,真正让它成为闭环外面一个不得不做的因素。在组织间,跨机构的数据以前更多是要爱护,隔离,锁在保险柜里窃密。今后为了做产业互联网,数据要实现上下游买通、政企买通、企业之间买通,所以其关键词变成了凋谢、交融,从而又有了隐衷计算、区块链。咱们发现,组织内及组织架构的数据流动在变动,组织的技术重心也在变动。大数据产品技术越来越丰盛,利用更加宽泛,数据的一站式、全生命周期治理是咱们看到的方向。

第二. 数据因素化也在推动治理的改革:
以数据治理为外围的数据资产管理体系逐渐成熟,以数据经营为导向的数据资产管理体系处于萌芽。数据管理 2.0 数据开发经营一体化从治理本位的角度转变到服务业务的角度,数据管理工作更多为了业务的翻新、为了倒退,这对平台自动化、疾速响应需要,多团队合作、经营驱动治理提出更高要求。该趋势下,很多企业开始做了 DataOps 的实际。DataOps 是一种合作式数据管理的实际,致力于改善组织中数据管理者与使用者之间数据流的沟通,集成和自动化。其核心理念有:麻利开发、治理闭环、平安可信、继续经营,这也确是数据管理的必然方向。

中国信息协会专家范克峰从数字化转型角度谈数据管理之变,也与以上观点相符合。在数字化转型的门路考量上,产品选型和组织形式都是重要环节。针对前者,技术实现形式千差万别,强调企业要依据本身倒退状况和行业属性抉择适宜本人的数字化工具。针对后者,绝不可漠视“人”这一因素的重要作用,要器重管理层的反对和员工层的合作,晋升企业整体数字能力。


中国信息协会专家范克峰

02 DataPipeline:聚焦数据价值开释链路中最后一公里

DataOps 是领导 DataPipeline 产品和服务倒退的重要准则

在 DataPipeline 创始人 & CEO 陈诚看来,“聚焦最后一公里”是 DataPipeline 为产业提供数字化转型翻新推动力的最佳注解。他指出,企业数字化转型过程中,越来越多的数据利用被构建进去、数据量大跨度增长,数据的复杂度越来越高,无论从需要侧还是供应侧看,数据的时效性要求都变得越来越强。和间接给客户提供价值的场景利用“最初一公里”相比,数据交融这“最后一公里”的重要性也愈发凸显,并且具备丰盛外延。


DataPipeline 创始人 & CEO 陈诚

在优化数据迷信和经营团队之间合作的大量数据管理实际中,DataPipeline 逐渐发现 DataOps 是逾越业务与技术、数据与场景、规模与品质等数据驱动商业改革鸿沟的无效门路。DataOps 强调了对数据流向价值流转变的数据旅程治理的理念,也是领导 DataPipeline 产品和服务倒退的重要准则,其中最重要的三点:

第一. 拥抱变动。技术场景的疾速分化产生大量不同类的存储和计算引擎、信创大势下优良国产数据库涌现、业务导向下数据结构等的疾速迭代、网络等的环境变动,以上多方面的变动使得数据调度及流转变成极其重要的能力。“最后一公里”成为筑牢数据管理根基的要害, 也是 DataPipeline 抉择该畛域的初心。

第二. 组织合作。数据管理中的角色多样,数据科学家、数据分析师、数据工程师、大数据平台运维人员、DBA 等,各类角色及其承载内容变动量大、速度快,日常工作中短少抓手合作配合。DataPipeline 通过产品的四层形象——零碎资源管理、节点治理、链路管理和数据工作治理来帮忙组织,给每一类角色提供相应的入口与易用可视化强的界面,从而造成清晰的工作边界与良好的配合。

第三. 主动麻利。该准则的底层逻辑即低代码、无代码胜过开发,各类策略的配制胜过代码调整。DataPipeline 在每一个形象层级上提供了几十种策略的配制。粗疏水平能够达到写入组件的抵触,数据结构发生变化,有没有谬误队列。客户在应答新变动时,周期能够从以月计改为按小时甚至分钟去计算,效率晋升显著。以上都源自 DataPipeline 过来 5 年对客户场景抽丝剥茧地剖析与了解,及技术性能上的细分。

03 以用户为核心,专一场景实际 发明行业新价值

在对于平安、稳固、性能都有着极高标准的金融行业扎根

DataPipeline 保持以用户为核心,找到业务场景与实时数据管理技术的结合点,以场景化的翻新解决方案实际,减速行业数字化和智慧降级。

DataPipeline 助力民生银行构建实时数据管理平台,在异构数据实时同步的准确性、零碎的稳定性、易用性、安全性等方面很好地满足了需要,实现了民生银行企业级实时数据的采集、同步与交融。基于 DataPipeline 进行数据标准化开发和数据传输,升高了民生银行开发成本,放慢了实时数据价值的开释,为民生银行数据中台策略奠定了松软的根底。


民生银行总行科技大数据管理部技术专家钟行

民生银行总行科技大数据管理部技术专家钟行示意,在实时数据预处理和应用层数据同步方面,抉择 DataPipeline 作为合作伙伴共同完成实时数据同步管道组件的施行,次要起因为:一是,目前金融行业进入了一个基础设施疾速迭代的期间,民生银行也正在踊跃验证引入各类开源和商业化根底组件满足数据方面需要,DataPipeline 是一家专一于提供企业级异构数据交融解决方案的公司,可能继续跟进行业内计算资源、操作系统、数据库、中间件等方面的变动,继续对合作伙伴的需要进行反对;二是,DataPipeline 企业级实时数据交融平台的性能和性能,可能很好地满足民生银行以后在实时数据预处理和同步方面需要,产品除了反对丰盛的数据源,在工作的资源管制、状态监控、异样解决和复原等方面设计正当,易于与行内已有数据管理和集中监控系统集成。以 DataPipeline 产品为根底,绝对基于开源组件自研的计划能够减速我的项目施行、降低成本。


DataPipeline 助力民生银行构建实时数据管理平台架构

山东省城商行联盟外围运维组技术专家倪俊甜在演讲中示意:DataPipeline 助力山东省城商行联盟构建的企业级数据库准实时数据采集零碎对于推动其实现数字化转型、数据规范化和集约化治理、赋能企业经营及加强其长久外围竞争力具备重要意义。DataPipeline 可实现数据的秒级实时采集,产品具备对立易用的人性化操作界面,丰盛的配置策略可实现对资源的高效充分利用,产品同时具备标准化遵循与前瞻性判断前提下的凋谢可扩展性,当然最重要的是其金融级的稳固高容错能力。


山东省城商行联盟外围运维组技术专家倪俊甜

04 降级数据技术,晋升企业数字化转型驱动力

用户需要牵引技术继续演进,构建数字化翻新基础设施

技术曾经成为以后驱动产业改革的重要源能源。产业数智化的时代未然降临,在将来十年,经济倒退的新动能将源自技术与“千行百业”的深度交融,新科技产品、新效率以及全新业务状态都将由此交融而生。DataPipeline 合伙人 & CTO 陈肃示意:DataPipeline 的技术架构演进,实质上是一个用户需要驱动的过程。明天咱们在 3.0 版本中看到的技术架构状态,是这些年继续在客户实在环境中一直锻炼和演进的后果。


DataPipeline 合伙人 & CTO 陈肃

回顾过去 40 年技术倒退的路线,DataPipeline 认为技术架构是一直舍短取长,一直交融的过程,然而数据架构的百花齐放、长期共存,是必然趋势。企业数据基础设施的建设,须要做好三件事:抉择、组合和连贯。而连贯是实现组合的要害。但构建稳固、高性能且可能适应业务倒退动态变化的实时数据管道,须要工夫、金钱、人力上的低廉投入且在落地上充斥挑战。DataPipeline 心愿提供一个产品化的解决方案,为用户把这纷纷的事务通过一体化的形式解决掉。以上就是 DataPipeline 基于对技术发展趋势和产品商业价值的判断而做出抉择的根本根据。

往年五月份,DataPipeline 正式公布实时数据交融平台 V3.0 里程碑版,是产品由工具型向企业级数据交融平台进化的要害一步。V3.0 版本在技术成熟度上有跨越式晋升,次要体现在其高性能、高可用、可管理性。

第一. 高性能。在 3.0 版本中,DataPipeline 引入了基于内存的数据交换形式,能够无效防止音讯分区数量的收缩带来的性能降落。同时,基于这一模式的端到端处理速度,比 2.0 版本晋升超过 2 倍。

第二. 高可用。从 1.0 版本开始,DataPipeline 的底层运行时环境就反对高可用。在 3.0 版本中,DataPipeline 进一步将产品的所有平台组件全面实现了高可用。用户能够依据对可用性的要求,灵便进行组件节点的部署,防止单点故障。

第三. 可管理性。依据企业分层治理的需要,将零碎内资源形象为节点、链路、工作。每一层都能够进行独立的治理和受权。用户能够在链路上定义字段类型映射、限速、告警等策略,并利用到工作层面,从而实现层级化的精密治理。与此同时,DataPipeline 外部的所有重要事件、告警信息都可能推送到用户定义的邮箱、文件门路或 Webhook 中,从而与企业现有的运维监控体系无缝集成。DataPipeline 3.0 装备了容器、利用、线程、业务四级监控体系,实现全方位的运维晋升。

05 凝心聚力,与产业各角色共生共赢

共赴实时数据管理的星辰大海


华为计算产品线 openGauss 数据库产品总经理胡正策

华为计算产品线 openGauss 数据库产品总经理胡正策高度评价了华为 openGauss 与 DataPipeline 的过往单干,并介绍了 openGauss 企业级开源数据库“共建、共享、共治”的生态理念与成绩。近日,DataPipeline 与 GaussDB(for openGauss) 实现兼容性测试,并且签订 CLA(Contribution License Agreement, 奉献许可协定),正式退出 openGauss 社区。将来,DataPipeline 将充分发挥自主创新能力及产品劣势,与华为云合力发明 1 + 1 大于 2 的成果,为推动金融等行业数据管理倒退贡献力量。

在大会圆桌论坛环节,与会的各位专家独特就“信创产业倒退的时机与挑战”、“金融行业对外围数据系统的诉求”等问题展开讨论。其中,中信银行信息技术管理部架构管理处处长卫东谈到:信创是中国数字经济平安、衰弱倒退的基石。我国的信创产业减速朝着好用和全面推广方向倒退,信创产业生态初具规模。面对数字经济的高速倒退,信创将给千行百业带来不可估量的价值。技术人员,要有凋谢的心态,在寰球范畴内学习并借鉴。更重要的一点,需要市场拉动的同时,以根底软件为代表的 IT 产业畛域也要保持深入供应侧结构性改革。产品技术专家,要有在丰盛场景下捕获需要的能力,并且要前瞻性地从产品打造层面提出一些新的性能和个性。这对厂商十分重要,同时也提出了比拟高的策略钻研能力,包含联结用户方联创等的高阶能力。


圆桌对话

圆桌论坛现场,来自产业各畛域的合作伙伴也带来了针对数据管理行业洞察和期待。“势、翻新、专一、交融共建、凋敝生态、差异化亮点”——DataPipeline2021 数据管理与翻新大会在现场嘉宾对 DataPipeline 的寄语中圆满落幕。

实时数据管理平台构建只是开始,数据管理的产业倒退短途漫漫。以“保持技术驱动 深耕企业服务”为初心和锚点,DataPipeline 将全力买通“实时数据交融 - 服务 - 品质”全流程能力,造成全链路实时数据资产治理业务体系,与合作伙伴共生共赢,为寰球行业用户提供稳固高效、安全可靠、凋谢兼容的数字化翻新基础设施,减速企业业务翻新和转型降级。

点我理解 DataPipeline 更多信息并收费试用

正文完
 0