乐趣区

关于sql:Flink-on-Zeppelin-系列之Yarn-Application-模式支持

jiezi

简介：Zeppelin 如何实现并应用 Yarn Application 模式。

作者：章剑锋（简锋）

去年 Flink Forward 在讲 Flink on Zeppelin 这个我的项目的将来时咱们谈到了对 Application 模式的反对，明天就有一个好消息要通知大家，社区曾经实现了这一 Feature，欢送大家退出 Flink on Zeppelin 的钉钉群（32803524），下载最新版来应用这个 Feature。

GitHub 地址

https://github.com/apache/flink

欢送大家给 Flink 点赞送 star~

Application mode 是 Flink 1.11 之后引入的新的运行模式，所要解决的问题就是缩小客户端的压力，把用户的 main 函数运行在 JobManager 里而不是在用户客户端。这种模式是非常适合 Flink on Zeppelin 的，因为 Flink on Zeppelin 的客户端就是 Flink interpreter 过程，而 Flink interpreter 是一个 long running 的 main 函数，一直承受来自前端的命令，进行相应的操作（比方提交 Job，进行 Job 等等）。接下来咱们就要具体讲下 Zeppelin 如何实现了 Yarn Application 模式，以及如何应用这一模式。

一、架构

在讲 Yarn Application 模式架构的时候，咱们顺便来讲下 Flink on Zeppelin 的架构演变过程。

一般的 Flink on Yarn 运行模式

这种模式的客户端中，Flink Interpreter 过程运行在 Zeppelin server 这台机器上，每个客户端对应一个 Yarn 上的 Flink Cluster，如果 Flink Interpreter 过程很多，会对 Zeppelin 这台机器造成很大的压力。

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/wt1g3h
参考视频：
https://www.bilibili.com/video/BV1Te411W73b?p=6

Yarn Interpreter 模式

Yarn Interpreter 把客户端（Flink Interpreter）移到了 Yarn 集群，把资源压力转移到了 Yarn 集群，解决上下面一般 Flink on Yarn 运行模式的一部分问题，这种模式会须要为每个 Flink Cluster 额定申请一个 Yarn Container 来运行这个 Flink Interpreter，在资源利用方面并不是很高效。

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/gcah8t
参考视频：
https://www.bilibili.com/video/BV1Te411W73b?p=24

Yarn Application 模式

Yarn Application 模式彻底解决了后面 2 种模式的问题，把 Flink interpreter 跑在了 JobManager 里，这样既不影响 Zeppelin Server 这台机器的资源压力，也不会对 Yarn 集群资源造成任何节约。

二、如何应用 Yarn Application 模式

配置 Yarn Application 模式非常简单，只有把 flink.execution.mode 设为 yarn-application 即可。其余所有配置与其余模式没有区别。上面的所有 Flink on Zeppelin 的个性在 Yarn Application 模式下都能够照常应用。咱们也借这个机会来 Review 下 Flink on Zeppelin 的所有性能。

多语言反对

在同一个 Flink Cluster 内反对以下 3 种语言，并且买通这 3 种语言（共享 Catalog，共享 ExecutionEnvironment）：

  • Scala (%flink)
  • PyFlink (%flink.pyflink)
  • SQL (%flink.ssql, %flink.bsql)

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/pg5s82
https://www.yuque.com/jeffzhangjianfeng/gldg8w/ggxz76
https://www.yuque.com/jeffzhangjianfeng/gldg8w/te2l1c

参考视频：
https://www.bilibili.com/video/BV1Te411W73b?p=4

Hive 整合

简略配置就能够启用 Hive。

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/agf94n

参考视频：
https://www.bilibili.com/video/BV1Te411W73b?p=10

UDF 反对

反对以下 4 种形式定义和应用 Flink UDF：

  • 在 Zeppelin 中间接写 Scala UDF；
  • 在 Zeppelin 中间接写 PyFlink UDF；
  • 用 SQL 创立 UDF；
  • 应用 flink.udf.jars 来指定含有 udf 的 jar。

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/dthfu2

参考视频：

https://www.bilibili.com/video/BV1Te411W73b?p=17
https://www.bilibili.com/video/BV1Te411W73b?p=18
https://www.bilibili.com/video/BV1Te411W73b?p=19

第三方依赖

在 Zeppelin 里能够用以下 2 种形式来指定第三方依赖，具体：

  • flink.excuetion.packages
  • flink.execution.jars（须要留神的是在 Yarn Application 模式下，这里须要指定 HDFS 门路，因为 Flink Interpreter 运行在 JobManager 里，而 JobManager 是跑在 yarn container, 在 yarn container 那台 NodeManager 机器上不肯定有你要指定的 jar）

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s

参考视频：
https://www.bilibili.com/video/BV1Te411W73b?p=15

Checkpoint & Savepoint

Checkpoint 和 Savepoint 照常应用。

参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/mlnswx

SQL 高级性能

Zeppelin 对 Flink SQL 做了一系列加强性能，这些加强性能都能够照常应用，比方：

  • 同时反对 Batch SQL 和 Streaming SQL
  • 多语句反对
  • Comment 反对
  • Job 并行度反对
  • Multiple insert 反对
  • JobName 的设置
  • Stream SQL 流式数据可视化

具体参考文档：
https://www.yuque.com/jeffzhangjianfeng/gldg8w/te2l1c

另外，阿里云开放平台团队长期招聘优良大数据人才（包含实习 + 社招）。咱们的主要职责为阿里云上的各大中小企业客户提供大数据和 AI 的根底服务。你的工作将是围绕 Spark，Flink，Hadoop，Tensorflow，PyTorch 等开源组件构建一个易用的，企业级的大数据和 AI 开放平台。不仅有技术的挑战，也须要做产品的激情。咱们采纳大量的开源技术（Hadoop, Flink, Spark，Zeppelin，Kubernetes，Tensorflow，Pytorch 等等），并且致力于回馈到开源社区。

如果你对开源，大数据或者 AI 感兴趣，这里有最好的土壤。领有在 Apache Flink, Apache Kafka, Apache Zeppelin，Apache Beam，Apache Druid，Apache Hbase 等诸多开源畛域的 Committer & PMC。感兴趣的同学请发简历到：jeffzhang.zjf@alibaba-inc.com

版权申明： 本文内容由阿里云实名注册用户自发奉献，版权归原作者所有，阿里云开发者社区不领有其著作权，亦不承当相应法律责任。具体规定请查看《阿里云开发者社区用户服务协定》和《阿里云开发者社区知识产权爱护指引》。如果您发现本社区中有涉嫌剽窃的内容，填写侵权投诉表单进行举报，一经查实，本社区将立即删除涉嫌侵权内容。

退出移动版