数据孤岛是始终以来的老大难问题,之前也有在寻找相干产品和解决方案,要么太重,要么不容易落地,直到偶然间看到 Tapdata。这是一个小而美的产品,专一实时数据开发畛域,其异构数据实时同步能力使咱们能够更专一在业务层面开发,而不必再关怀数据层问题。——中核武汉零碎技术部架构师 易继虎
近年来,以信息化、智能化为典型特色的新一轮科技反动正在蓬勃发展,寰球经济正处在一个前所未有的变轨期,数字化技术继续涌现,数字经济未然成为经济增长的外围驱动力。
时代召唤传统企业的数字化降级。
而国有企业作为国民经济倒退的中坚力量,须要充分发挥国有经济主导作用,被动把握和引领新一代信息技术改革趋势,引领和带动我国经济在这轮转型改革中占据国际竞争制高点。国务院国资委更是于 2020 年正式印发《对于放慢推动国有企业数字化转型工作的告诉》,踊跃疏导国有企业在数字化转型路线上施展其示范引领作用。
在央企、国企全面实现数字化转型的路线上,存在着这么一个公认的拦路巨石——数据孤岛。而在与泛滥相干企业用户牵手,减速转型优化的过程中,Tapdata 也始终在致力为企业轻老本破局提供新思路,践行数据孤岛“终结者”的使命。
想晓得 Tapdata 具体解决了什么样的问题、能够如何应用,无妨一起来理解下中核武汉是怎么实际落地的。
一、中核武汉,科改示范
“卡脖子”的数据孤岛,难拔除的数据烟囱
中核武汉,科改示范企业,由核动力运行研究所、秦山核电公司、武汉元一科技投资有限公司、上海核工程钻研设计院独特投资组建,融入了发动单位在核动力技术服务畛域的原有劣势资产、市场以及治理运作劣势,“以此为生,精于此道,致力于保障核设施平安、牢靠、经济地运行”,是目前国内规模最大、实力最强的核动力运行技术服务专业化公司。
中核武汉在为不同国企、央企提供信息化服务的同时,也发现了一个普遍存在的问题:数据孤岛。因为零碎的多样性——外采、内建构造各异,组织分化,业务场景多样……以致对接业务数据时频频碰壁,往往须要破费大量的人力资源去做非业务侧的开发工作。开发中更是须要和不同组织部门的人协调,申请取得对应的数据权限,并消耗工夫老本来了解数据字典的业务含意。
而常见的 ETL 工具没有复用性,每次有新需要或是需要有改变时,都须要重跑一遍同步流程,大量 ETL 开发也只能是“治标不治本”,没有方法从本源上突破数据壁垒。除此之外,中核武汉还在通过 Java 代码来实现不同数据中心之间的数据查问,工作量也很大,依旧会带来背离外围工作的资源投入。
如此一来,其我的项目落地周期不可避免地被拉长,以至于无奈专一在业务的开发上。中核武汉迫切需要解放被数据层“绑架”的创造力,将开发重心收拢回业务侧,为此,中核武汉尝试将数据层技术对接工作交托给了专一于实时数据开发畛域的 Tapdata——各专其专,各长其长,独特为核工业高质量倒退添薪。
二、Tapdata:小而美的实时数据交换平台
因为专一,所以更业余
面对日益低落的数据买通需要,和传统架构掣肘之间的矛盾,Tapdata 提供了新思路:“实时同步 + 实时处理 + 实时公布”的全链路实时数据服务平台,在保留原有零碎根底上,构建一个高度一致的数据镜像,并采纳主数据管理技术,造成一套残缺、精确、可信、可服务的主数据服务零碎。
为疾速满足中核武汉缩短我的项目周期,优化资源配置的需要,Tapdata 充分发挥平台低代码可视化配置操作,以及异构数据实时同步等性能个性,疾速买通中核武汉各数据中心,达成本地和云上数据联通——实现疾速开发、疾速查问,极大优化开发人力资源,胜利用开创性的“小而美”攻破了沉疴式的“大而难”。
同时思考到中核武汉的央企属性,Tapdata 还具备“纯国产自研”,领有自主知识产权的劣势,对国产数据库也更加敌对,从国际竞争久远角度来看,技术更加可控。
架构部署图解
- 从预生产实例同步全实例数据到公共数据中心实例
- 公共数据中心实例通过特定逻辑和规定将批改的公共数据别离同步至不同的业务数据中心实例,同时记录同步的数据条数和是否胜利(有日志)
- 公共数据中心研发域通过数据同步后处理造成宽表,将全局查问数据同步至公共数据中心研发域 ES
为什么抉择 Tapdata?
面对国有企业的精细化治理需要,以及科技攻关路线上的国产化过程,Tapdata 展现出如下劣势:
- 纯国产自研
Tapdata 先天具备自主知识产权劣势,技术更加可控。 - 开箱即用与低代码可视化操作
Tapdata 部署简略,且反对无代码和低代码可视操作,能够在利落拽中疾速创立工作,无需编码甚至 SQL 来编写转换规则。
- 内置 60+ 数据连接器,稳固的实时采集和传输能力
以实时的形式从各个数据起源,包含数据库、API、队列、物联网等数据提供者采集或同步最新的数据变动。反对多源异构数据双向同步,主动映射关系型到非关系型。 基于自研的 CDC 日志解析技术,0 入侵实时采集数据 ,对源库简直无影响,一键实现实时捕捉,毫秒内更新。已内置 60+ 连接器且一直拓展中,笼罩大部分支流的数据库和类型,并且反对自定义数据源,具备强可扩展性的 PDK 架构,4 小时疾速对接 SaaS API 零碎;16 小时疾速对接数据库系统。
- 秒级响应的数据实时计算能力
全链路实时,基于 Pipeline 流式数据处理,以应答基于单条数据记录的即时解决需要,如数据库 CDC、音讯、IoT 事件等。不同于传统 ETL,每一条新产生并进入到平台的数据,会在秒级范畴被响应,计算,解决并写入到指标表中。同时提供了基于工夫窗的统计分析能力,实用于实时剖析场景。
- 稳固易用的数据实时服务能力
反对低代码可视化形式开发和配置业务须要的 Data API,可能提供毫秒级提早、大并发的实时交互式数据拜访能力,做到真正意义上反对 TP 型业务。具备欠缺的、可配置的数据拜访权限,反对拜访监控和剖析能力,可为数据需要部门提供基于权限内的自助式主数据拜访服务和机制。兼具高可用、可扩大的架构设计,足以应答大并发和大流量的拜访。
- 数据、工作分类,让数据跨部门流动起来
通过多种自研技术,保障指标端数据与源数据的高一致性。反对通过条数校验、主键校验、行级校验、高级数据校验多种校验形式,以定时校验、轮询校验、分钟级动静校验等不同的校验周期实现一致性校验,保障生产要求。同时反对谬误数据二次校验,以及谬误数据修复,独特为数据一致性提供保障。
- 可视化工作运行监控和告警
蕴含 20+ 可观测性指标,包含全量同步进度、增量同步提早等,可能实时监控在运行工作的最新运行状态、日志信息等,反对工作告警。进入 Tapdata 控制台看板,工作运行状况和盘托出。
三、更多牵手:精细化治理进行时
翻新驱动,提高效率,增强活力
随着核动力运行研究所走过建所 40 周年重要节点,中核武汉也步入“精细化治理年”,围绕中国核电在集约经营、提质增效、精准施策、数字翻新四个方面要求,踊跃策动发展以“翻新驱动、提高效率、增强活力〞为主题的精细化治理晋升专项工作,以期进一步夯实治理基石、赋能高质量倒退。
面对新期间的倒退需要,中核武汉将建设以价值发明为外围的科研生产我的项目精细化治理、差异化考核、精准性激励体系。Tapdata 作为集实时同步,可视化 ETL 及数据开发,数据治理,及低代码 API 公布为一体的实时数据服务平台,在这一需要背景下,还有更多利用场景期待开掘。
- 为绩效考核优化提供数据根底:目前已实现对中核武汉业务数据中心工作流库的连贯,反对通过指标剖析工作流工作中,相干人员绩效。
- 为可视化的我的项目实时监测和剖析平台提供数据根底:可借助 Tapdata 实现数据采集同步、宽表构建、统计聚合计算,为中核武汉开发的数据可视化平台提供数据固化视图,以亚秒级的性能为这些可视化平台供数,超过传统可视化计划对 SQL 和逻辑视图的依赖,强实时,更晦涩。
- ……
突破数据孤岛式、烟囱式的成长魔咒,将被数据开发裹挟的人力、工夫老本收归科技、业务翻新,减速企业数字化转型降级——专一且业余,全行业多畛域全面开花,挑战、破局、实际,Tapdata 从未止步。
【举荐浏览】
- Tapdata 赋能麻利转型:头部常识付费利用如何搭载实时数据疾速晋升人效,发明业务增长点
- Tapdata 杨庆麟:实时数据如何赋能制造业,实现业务卓越与继续倒退?
- Tapdata 在数字化防疫场景的最佳实际
- Tapdata 在“疫”线:携手张家港市卫健委争分夺秒实时抗疫
- Whats On Tap | Tapdata Cloud 如何助力大型家居连锁商城推动数字化经营?
- Whats On Tap | 坐标 PCB 公司,想做实时数仓、推生产线看板,和 Tapdata Cloud 的偶遇来得就是这么凑巧
原文链接:https://tapdata.net/tapdata-enabling-refined-management.html