共计 4851 个字符,预计需要花费 13 分钟才能阅读完成。
在数据资产化初见成效后,接下来企业就须要落实数据共享和配套的数据分析工具,让更多业务部门或组织能够应用这些数据资源或数据资产。那么如何利用这些数据资产对内赋能业务经营、对外发明市场价值?本篇将介绍数据共享与剖析、数据产品对内的业务经营和对外的价值发明。
— 数据共享与剖析 —
在数据资产化初见成效后,接下来企业就须要落实数据共享和配套的数据分析工具,让更多业务部门或组织能够应用这些数据资源或数据资产,开始一些数据分析类工作,以及后续的数据产品开发工作。这个阶段的平台建设工作十分重要,它是买通数据服务能力的第一阶段,在不同的行业有不同的建设侧重点,个别包含面向特定业务部门以裸数据间接提供的数据集市、依照企业内多个业务属性布局的曾经加工好大量数据服务的数据中台、面向数据分析人员提供的按需做数据摸索并且有更严格的数据安全治理的数据共享平台或共享实验室,以及配套的剖析工具平台建设如数据迷信平台、BI 剖析工具等。
银行类企业的数字化建设从本世纪初左右开始,最早采纳了基于 MPP 数据库的数据仓库的建设,配套重要的业务建设独立的数据集市,或者间接在 MPP 数据库中建设数据集市。随着数据分析业务的减少和数据迷信类业务的衰亡,银行业开始基于大数据平台来建设数据仓库或数据湖,再配套独立的数据实验室给数据迷信团队做业务摸索,为一些重要的业务部门(如监管、审计、危险等)建设数据集市,并且科技部门都在尝试建设数据中台,为批发、同业、对公等业务赋能。大型商业银行科技部门的零碎建设都绝对欠缺,也具备有较好的可参考性。最近几年,随着各个业务零碎的复杂度和工作负载的继续减少,大型银行开始采纳云原生的形式以多租户技术来做整体零碎的资源管理,逐步形成了下图的整体数据共享剖析的架构。
值得一提的是,因为局部数据分析业务可能会有临时性的对某些未加载到数据湖或仓库中的数据做整合剖析或机器学习建模,近年来数据联邦剖析技术又逐步衰亡,个别是通过一个反对数据联邦的 SQL 计算引擎为数据分析人员提供开发入口,而这个计算引擎能够同时对接包含数据湖和一些数据库在内不同的数据源,甚至能够反对两个不同数据库系统间的数据关联等计算工作。这种形式能够让数据分析人员无需关注底层数据架构的异构个性,而数据管理人员也无需针对各种长期的数据分析工作而将所有数据都当时整合到数据湖中,因而总体上进步了工作的灵活性。
从企业数据平台的建设视角来看,这个阶段的平台须要提供数据迷信建模工具或平台,凋谢给业务部门按需的部署和应用;须要提供报表工具给数据分析人员,同时提供剖析型数据库,从而提供数据集市的撑持能力。从数据管理的视角,数据平台建设方还须要建设零碎来提供便当的数据出湖和数据导入集市的能力,并且在这个流程中落实数据的平安管控。如果业务部门的业务倒退比拟快,有大量 Ad-hoc 的数据分析工作,提供数据联邦剖析的能力也是一个须要十分广泛的需要。
除根底平台的建设外,企业的业务部门须要建设数据分析的能力,以满足数据业务化的要求,这包含 BI 剖析能力、数据建模能力、数据指标与标签开发能力。如果业务部门没有足够的剖析人员能够建设这方面的要求,能够采纳委托科技部门或外包等形式来建设这部分能力。
— 数据产品开发和对内经营构建数据中台 —
数据产品指的是曾经实现各种数据加工、剖析、建模之后造成的能够被业务利用间接应用的产品或利用,其物理上能够是包含数据 API、数据指标标签、AI 推理模型、数据集以及根底数据库在内组合而成的独立服务,有本人的开发和公布管控流程,有独立的技术架构要求和运维要求。在数字化水平比拟高的行业,一些典型的数据产品落地案例如行业常识图谱、舆情剖析产品、政府的一网通办类产品、金融行业的万德数据等。而在另外一些行业,即便其数字化起步较晚,然而因为数据赋能业务的链路比拟短(如工业制作的智能运维和机器人质检等),或者受限于企业内的数据科技人员数量限度,更好的数据赋能业务的形式是间接提供一些数据产品给业务方能够间接应用,因而能够在布局的时候就及早开始做相干的投入。在咱们的定义里,数据中台是承载数据产品的开发与经营的零碎。数据产品的开发过程实质上就是一个软件开发配套数据开发与剖析的过程,因而其过程管
理上能够采纳软件过程治理的方法论,须要配合建设利用开发平台、CICD 技术体系,以及用于最终数据产品公布与散发的平台(个别叫做利用市场)。一些企业会自建一个数据产品的开发平台,能够将各种数据报表、数据指标等外部数据,配合外采的一些剖析报告或数据 API,采纳低代码或者无代码的形式将其组合为一个数据产品,并容许多租户的形式为不同部门提供 SaaS 服务。
Salesforce Einstein 是一个十分胜利的数据产品开发平台,它容许用户通过各种数据集或报表来定义本人的 User Story,并且数据能够通过实时计算和 AI 驱动,每个用户都能够有本人的产品界面,无需关注底层的数据简单架构。低代码平台是另外一个能够被用于数据产品开发的技术,它可能让用户疾速实现数据驱动的流程设计、流程治理、审批过程管制、组织构造关联以及产品公布等过程,可能缩短从“一个想法”到“一个 demo”的交付工夫,能够用于一些工夫要求比拟紧迫的中小型数据产品的开发。
除了一些新型的面向交互式剖析的数据产品,更多的还是惯例的数据利用开发,即基于微服务或 Java 中间件等形式来开发的企业级利用,只是其这些利用的不再是用户点击驱动的流程变动,而是数据变动带动的状态机变更。对这类数据密集型的利用,其开发过程总体上还是惯例的软件开发过程,须要有利用开发平台和 CICD 流程,须要有配套用于外部利用开发过程的品质治理、平安治理、配置管理等过程治理和流程。在利用的公布上,因为数据产品须要让企业不同区域的员工都能够间接应用,因而公布零碎须要反对企业本身的多数据中心或混合云架构,甚至是边缘端。举个例子,在国内总部开发的数字化驱动的考核零碎,须要可能运行在海内分支构造的数据中心外部;同样总部研发的新的运维模型,可能便捷的公布到终端的设施或工控机上,这要求利用开发平台有很好的利用公布能力。
在数据产品的经营上,企业能够通过建设一个数据利用市场让开发者和用户都能疾速找到相干的数据利用或产品。这些产品能够依照面向 SaaS 或 DaaS 模式来辨别,也能够依照面向最终用户、数据产品开发者、数据分析人员等不同的用户来辨别,不便不同的用户依照其需要来发现和了解产品,也让更多的开发者和剖析人员来奉献数据产品,从而逐渐买通外部的经营闭环。
— 数据产品对外的价值发明实现数据资本化 —
数据因素市场是国家十四五的一个重要的数字化方向,对于一些数据资源十分丰盛,或者自身是一个平台型经营的企业,亦或者是专门为数据因素市场设立的各中央数据交易所等,他们的企业数据产品不仅能够对内进步经营效率,还能够间接对外部企业或生态内企业赋能,间接发明数据相干的支出,将数据价值化更加间接的体现进去,达到数据资本化阶段,甚至能够并入企业财务报表中。
国外数据交易平台以企业建设为主导,有数据提供方供给数据、网络爬虫、政府公开数据、数据社区提供数据以及传统形式线下收集数据等数据起源形式。数据社区是若干个社会群体或组织汇集在大数据畛域内造成的一个互相关联、互相沟通的大个体,通过数据社区能够及时理解用户需要,更新数据。国外数据社区为交易平台提供数据,促成了数据交易平台的倒退,而国内此种形式较为少见。国外数据交易平台有 Factual、BDEX、Azure、Qlik Data market 等以企业自主建设平台为主。交易平台的产品类型有 API、数据包、解决方案、数据产品、云服务等,且具备不同平台针对不同畛域数据的独有性、专业性等特点。交易平台会对卖方数据进行筛选、分类等工作。
我国数据交易市场还处于初期阶段,并率先提出数据因素这一概念,数据在赋能其余因素后,其价值能够数倍倒退。据相干数据预测显示,到 2025 年我国数据交易市场规模将达到 500 亿元,将来的市场规模还会更大。数据交易平台在交易过程中,首先要解决效率问题,比方一家企业须要数据资源,在传统模式下,须要对接不同的数据资源,效率不高,而通过数据交易中心平台,能够取得更多源的数据,对数据提供方而言,通过数据交易平台,能够找到很多个潜在的客户,同样也能够晋升效率;其次是要解决合规的问题,数据交易中心是强监管的经营模式,其目标是确保在平台上交易的数据都是合规非法的。目前国内数据交易多是在政府为主导的数据交易平台进行。交易平台的产品类型有 API、数据包、解决方案、数据产品、云服务等,平台交易数据类型品种较多,绝对于国外数据品种多但不精。
一些平台型企业的供应链或者投资布局内有大量的生态企业,为了更好的欠缺供应链治理或者欠缺投资生态,一个比拟可行的形式是构建一个系统性的数据驱动的利用平台,生态类企业在这个平台上依照治理要求来买通业务流程和数据交互,让各方间接做到业务和数据协同,这样平台型企业就能够基于数据的能力来做更多的业务优化,如优化供应链过程、倒退供应链金融等新业务,提供企业的经营效率或开翻新业务场景。一些典型的案例包含各地的产业集群、大型央国企、行业监管机构和被监管企业、投资性集团公司等,行业内都曾经造成了一些典型案例。当然,平台企业和生态类企业的数据互通并不是间接的原始数据替换,而是基于相似数据交易所的企业间数据合规流通的形式,甚至是通过隐衷计算等新技术来落地。
回到技术上,要实现这类业务价值也须要一个弱小的数据共享经营平台来撑持,并且这个阶段的外围是建设信赖,因而数据安全与合规是平台建设的重点。近年来行业也陆续摸索进去一些可行的落地实施方案,包含云上的数据沙箱和私有化的数据一体机,此外须要配套数据合规与隐衷计算平台,解决数据流通中的数据合规问题。
数据沙箱是数据提供方向数据需求方提供的一套关闭的数据开发环境,满足企业外部和企业间的共享场景,通过数据库安全、数据内容平安、基础设施平安全方位保障数据可入不可出,解决提供方不愿不敢不能将数据凋谢给需求方应用的问题,实现数据在合规非法的条件下平安凋谢共享。
数据沙箱能够被用于企业外部的数据翻新实验室、团体类企业对内对外的凋谢,以及企业间或数据交易所的凋谢场景中,而且须要配套一些跟数据产品自身敏感性相干的合规和平安管理策略,从而提供足够的安全性并满足合规要求。
随着对外共享凋谢数据集数量的减少,一级数据开发的范畴扩充,企业须要建设数据安全与合规检测零碎,可继续一直的对开发治理好的数据资源进行分类检测,为每份数据资源标记数据分类状况,标记数据的平安凋谢等级。同时,数据审计模块可对数据的应用进行具体审计,可回溯数据应用的全副记录。为了保障数据在存储和应用中的平安合规,该零碎须要提供数据分类分级、数据安全策略核心、个人信息去标识化、数据监测与审计等几个外围能力。
为了实现数据业务平安合规,企业除了构建围绕数据生命周期的平安技术之外,须要有一个数据安全合规建设体系去领导相干部门进行落地。数据安全合规倡议的流程机制如下:
首先企业要定期对数据资产进行分类分级,及时发现全量以及增量的集体敏感数据、重要数据等,对敏感数据的散布做到心里有数。而后要深刻生产流动,对数据安全生命周期进行平安评估,发现数据安全危险并量化危险等级。基于上述步骤梳理的不同平安危险等级的数据,有针对性的进行数据安全能力建设,包含 IT 能力建设、组织与制度建设等。最初要造成一个继续的数据安全经营体系,包含日常的治理、监控、应急处理。同时还要继续的评估平安能力建设情况,查漏补缺,继续迭代,逐渐达到平安合规。
— 小结—
咱们用了三篇的篇幅介绍了从根底的数据存储算力、数据资产化、数据共享与剖析、对内赋能经营和对外发明价值等五个建设阶段。至此,置信大家对构建企业数据平台各阶段的重点已成竹在胸。从下篇开始,咱们将深刻底层技术,为大家介绍几大支流的分布式技术,敬请期待。