乐趣区

关于阿里云开发者:云栖发布|阿里云消息队列-RocketMQ-50消息事件流融合处理平台

简介:RocketMQ5.0 的公布标记着阿里云音讯正式从音讯畛域正式迈向了“音讯、事件、流”场景大交融的新场面。

引言:从“音讯”到“音讯、事件、流”的大交融

音讯队列作为当代利用的通信基础设施,微服务架构利用的外围依赖,通过异步解耦能力让用户更高效地构建分布式、高性能、弹性强壮的应用程序。

从数据价值和业务价值角度来看,音讯队列的价值一直深入。音讯队列中流动的业务外围数据波及集成传输、剖析计算和解决等不同环节与场景。随同着一直演进,咱们能够预感音讯队列势必在数据通道、事件集成驱动、剖析计算等场景一直产生新价值,发明新的“化学反应”。

RocketMQ 诞生于阿里巴巴外部电商零碎,倒退至今日,其外围架构经验了屡次要害演进:

早在 2007 年,淘宝电商零碎做服务化拆分的时候,就诞生了第一代音讯服务 Notify,这是 RocketMQ 最早雏形。Notify 采纳了关系型数据库作为存储,应用推模式。在阿里淘宝这种高频交易场景中,具备十分宽泛地利用。

在 2007-2013 年期间,随着阿里团体业务倒退,不仅须要交易场景异步调用,同时须要反对大量传输埋点数据、数据同步。此时,外部衍生出 MetaQ 以及 RocketMQ3.0 版本,这两个版本开始摸索自研存储引擎,采纳了自研专有音讯存储,反对了单机海量 Topic,并前瞻性地去除了 Zookeeper 等组件的内部依赖。在十年后的明天,咱们看到去各种 keeper 已成为整个音讯畛域的倒退支流。

经验了前三代的外部业务打磨后,阿里巴巴积极参与开源并将 RocketMQ3.0 奉献到开源社区,并于 2017 年正式从 Apache 孵化器毕业,成为中国首个非 Hadoop 生态体系的 Apache 社区顶级我的项目。尔后,RocketMQ 也开始正式服务于阿里云企业客户。秉承开源、商业、外部三位一体倒退策略,18 年公布的 4.x 版,在高牢靠低提早方面重点优化,构建了全新的低提早存储引擎和多场景容灾解决方案、并提供了丰盛的音讯个性。这也使得 RocketMQ 成为金融级的业务音讯首选计划。

上个月社区公布了 RocketMQ5.0-preview 版,正式宣告 5.0 的到来。RocketMQ5.0 将不再局限于音讯解耦的根本场景,更是通过对立内核、存储的劣势,提供音讯、事件、流一体化的解决能力。

回顾 RocketMQ 倒退的十余年,良好的社区环境和商业反对使得大量企业开发者能够很不便的跟进业务特点和诉求进行选型和验证。在社区沉闷影响力方面,RocketMQ 社区我的项目播种 15000+Star,沉闷的贡献者有 400+ 位,多语言、生态连贯等周边沉闷我的项目 30+ 个,深受社区开发者欢送。在利用规模方面,RocketMQ 作为金融级业务音讯计划,积攒了互联网游戏、在线教育、金融证券、银行、政企能源、汽车出行等泛滥行业数以万计的企业客户。同时,在阿里巴巴外部负担业务外围链路,每天流转万亿级音讯流量,扛过了历届双十一的零点峰值。在行业评测方面,RocketMQ 也屡次斩获大奖。

官宣:阿里云新一代 RocketMQ“音讯、事件、流”交融解决平台

明天公布阿里云音讯队列 RocketMQ 版 5.0,咱们称之为一站式“音讯、事件、流”交融解决平台。

新版本外围诞生两大新亮点,首先是音讯外围场景的扩大和布局,RocketMQ 5.0 不再局限于音讯解耦场景,将全新布局事件驱动和音讯流式解决场景;其次则是一站式交融解决的技术架构和趋势。

“音讯、事件、流”一站式交融解决的技术架构能够实现一份音讯存储,反对音讯的流式计算、异步投递、集成驱动多种场景,极大地升高业务人员运维多套零碎的技术复杂度和运维老本。能够说,无论是微服务的指令调用、异步告诉,还是 CDC 变更日志、行为埋点数据,亦或是资源运维、审计事件,对立的 RocketMQ5.0 产品栈都能对立解决。

重大公布一:RocketMQ 基础架构全新降级

首先,最重要的降级是阿里云 RocketMQ 的技术架构全面焕新。

全新的 RocketMQ5.0 版将通用的存储逻辑下沉,集中解决音讯存储的多正本、低提早、海量队列分区等技术问题,将下层的音讯解决和剥离出齐全的无状态计算层,次要实现协定适配、权限治理、生产状态、可观测运维体系反对。得益于存算拆散的架构设计,从 SDK 接入到线上运维全链路带来全面晋升:

  1. 轻量版 SDK 的凋谢和全链路可观测零碎的晋升:同时反对 4.x 通信协议和全新的 gRPC 通信协议,并内置 OpenTelemetry 埋点反对,新版本 SDK 新增了 10 余个指标埋点。
  2. 音讯级负载平衡:新版本 SDK 不再参加理论存储队列的负载平衡,音讯负载平衡将更加轻量,以单条音讯为调度最小单元。
  3. 多网络拜访反对:新版本反对繁多实例同时裸露公网、内网等拜访模式,不便客户多网络接入拜访。
  4. 海量分级存储:新版本凋谢分级存储历史音讯保留能力,音讯低成本无大小限度,最长保留 30 天。冷热数据进行拆散设计,极大升高生产历史音讯对实例的性能影响。

重大公布二:RocketMQ Streaming 云上最佳实际——音讯 ETL

音讯基础架构的能力晋升之外,阿里云 RocketMQ 在 Streaming 流式解决场景推出了轻量级音讯 ETL 性能。

用户在数据库变更、终端数据上报、后盾埋点日志等场景产生的音讯,典型的生产场景就是数据荡涤转化,同时再存储到内部的存储和离线剖析、在线剖析零碎中。传统实现计划须要搭建 Flink 等重量级实时计算服务或者自建生产利用做音讯解决。而应用商业版 RocketMQ ETL 性能,简略控制台配置即可实现音讯的荡涤和转化。RocketMQ ETL 性能有三大劣势:

  1. 轻量无依赖:作为阿里云音讯原生性能,应用时不须要部署内部计算服务或生产程序,计划更轻量。
  2. 开发门槛低:内置常见荡涤转化模板,满足绝大多数音讯内容解决需要,并反对用户疾速编写自定义函数来反对非凡的业务逻辑。整体开发成本非常低,1 小时即可实现业务上线。
  3. Serverless 弹性:无需事后估算容量,采取 Serverless 无服务器模式,实现按需弹性伸缩。

重大公布三:EDA 云上最佳实际——事件核心 EventBridge

本次 RocketMQ 最初一个公布点是在事件驱动的业务场景的布局和演进。早在 2018 年,Gartner 评估报告将 EDA(Event-Driven-Architecture)列为十大策略技术趋势之一,事件驱动架构将成为将来微服务支流。咱们首先下一个定义:

事件驱动其本质是对音讯驱动的再降级,是企业 IT 架构深度演进的下一个必然阶段。

事件驱动架构和音讯驱动架构的区别和关联次要集中于以下三点:

  1. EDA 更加强调深层次解耦:音讯驱动是同一业务、组织系统内不同组件之间在技术架构层面的调用解耦,其信息封装和解决都是有预期、预约义的。事件驱动适配是更宽泛的业务、组织系统,基于事件的解耦上下游之间无需有预期和行为定义,上下游对立遵循标准化的标准,这是更深度的解耦。
  1. EDA 更加强调连贯能力:音讯驱动更多是繁多零碎内的调用,而事件驱动往往会波及到不同的地区、账户主体以及三方 SaaS 的协同,事件驱动的一大特色就是生态的强连贯能力。
  1. EDA 更加强调 Serverless 低代码开发:类比于音讯和微服务的协同关系,将来业务架构 Serverless 化的大趋势会推动业务开发模式逐渐转向低代码配置化。事件驱动的另一大特色就是低代码开发,基于丰盛的工具能力,业务侧不须要像音讯驱动一样编写大量的生产生产代码。

因而,阿里云对立事件核心 EventBridge 产品带来如下能力:

  1. 对立标准化的事件集成生态:作为阿里云事件核心,集成 80 余款云产品的业务事件,反对 800 多种事件类型,用户应用 EventBridge 能够一次性治理所有云产品资源的变更、操作应用事件,防止对接多个产品接口的重复性劳动。
  1. 寰球事件互通网络:贯彻事件驱动强连贯的属性能力,本次公布了寰球事件互通网络,首批反对国内五大地区事件互通。企业客户简略配置即可实现跨账号、跨地区、跨网络的事件聚合和流转。
  1. Serverless 低代码开发:内置十余种事件指标和解决模板,涵盖了大多数业务场景,客户简略配置、低代码,无需部署服务即可实现事件的驱动和解决。

面向未来:动摇推动“音讯、事件、流”大交融的倒退

RocketMQ5.0 的公布标记着阿里云音讯正式从音讯畛域正式迈向了“音讯、事件、流”场景大交融的新场面。将来阿里云音讯产品的演进也将持续围绕音讯、事件、流外围场景而发展。音讯基础架构自身也必将步调一直,持续朝着 Serverless 弹性、强容灾能力、可观测免运维方向推动,给客户带来高性能、高牢靠、强容灾的高 SLA 服务;并在 Streaming 的场景会基于客户业务诉求,联结生态产品继续推出更多的音讯解决计算服务;打造面向未来的企业集成模式,联结生态搭档和开源社区鼎力推动事件驱动进一步倒退。

点击下方链接,观看企业互联网架构论坛直播回放!

https://yunqi.aliyun.com/2021/agenda/session184?spm=5176.23756404.J\_6556766720.7.41c07c21SwyCvF

版权申明: 本文内容由阿里云实名注册用户自发奉献,版权归原作者所有,阿里云开发者社区不领有其著作权,亦不承当相应法律责任。具体规定请查看《阿里云开发者社区用户服务协定》和《阿里云开发者社区知识产权爱护指引》。如果您发现本社区中有涉嫌剽窃的内容,填写侵权投诉表单进行举报,一经查实,本社区将立即删除涉嫌侵权内容。

退出移动版