关于flink:IDEA-中使用-Big-Data-Tools-连接大数据组件FlinkKafkaHDFS

5次阅读

共计 1048 个字符,预计需要花费 3 分钟才能阅读完成。

IDEA 中应用 Big Data Tools 连贯大数据组件

简介

Big Data Tools 插件可用于 Intellij Idea 2019.2 及当前的版本。它提供了应用 Zeppelin,AWS S3,Spark,Google Cloud Storage,Minio,Linode,数字凋谢空间,Microsoft Azure 和 Hadoop 分布式文件系统(HDFS)来监督和解决数据的特定性能。

上面来看一下 Big Data Tools 的装置和应用,次要会配置 Flink,Kafka 和 HDFS。

装置 Big Data Tools 插件

点击装置实现之后,须要重启一下 IDEA,插件能力失效,下面我曾经装置过了。

Flink 配置(不举荐)

flink 须要下载行将公布的 IDEA 2022.2-EAP 版本才有,因为之前是不反对 flink 的。

先点击 IDEA 右侧的 Big Data Tools,而后点击加号就能够增加 Flink 组件了。

输出 Flink WEB UI 地址,点击 OK 就能够了。

这样就能够间接在 IDEA 外面查看 Flink Dashboard,跟在 Web UI 上的性能齐全一样,点击箭头所指的中央能够间接跳转到 Flink UI, 尽管能够间接在 IDEA 外面查看 Dashboard,然而个人感觉还是在 Flink Web UI 上查看更加不便,可能是看习惯了。不是太举荐这个性能。

Kafka 配置(举荐)

而后来看一下 kafka 的配置。

同样的,点击加号抉择 Kafka 而后设置一下 Kafka 集群的 broker list,点击 OK 就行了。

能够看到所有 topic 的详细信息,包含 partition,replicas 等,还能够查看 Consumers 的状况,这个性能还是不错的,尽管当初也有很多开源的 kafka 监控工具,然而配置起来还是有一点门槛,这个插件的配置简直是零门槛,对于简略的查看 kafka 的信息还是十分不错的。

HDFS 配置(举荐)

最初再来配置一个 HDFS。

Authentication type 抉择 Explicit uri 而后设置一下 HDFS 服务地址就能够了。

间接就能够查看 HDFS 上的目录及文件,这个性能还是十分不便的,就不必在登录 HDFS-Web 去查看文件了。

总结

从 Big Data Tools 插件的装置配置到应用,次要介绍了 Flink,Kafka,HDFS, 这三个组件的配置应用,整个配置过程是非常简单的,当然这个插件反对的组件远不止这些,包含像 spark,hive,zeppelin 等都是反对的,感兴趣的同学能够本人在 IDEA 外面体验一下,整体上来说,这个插件还是十分有用的。

正文完
 0