一、Flink SQL Insight
Flink 作为流批一体计算引擎,给大家提供了对立的 API,对立的算子形容,以及对立的调度。但 Flink 算子的底层仍有一些轻微的差异。
对于一个批算子而言,它的输出是一个无限数据集。批算子会基于残缺数据集进行计算,计算过程中如果内存装不下,数据会 Spill 到磁盘。
对于流算子而言,它的输出是一个有限数据集。与批算子不同,流算子不能在收集到所有输出数据之后才开始解决,也不可能将这些数据存到磁盘上。所以流算子的解决是一条一条的(也可能会按一小批进行计算)。
当流算子接管到上游的一条数据后,对于 Stateful 算子会从 State 里读取之前的计算结果,而后联合以后数据进行计算,并将计算结果存储到 State 里。因而 State 优化是流计算里十分重要的一部分。
残缺内容请点击下方链接查看:
https://developer.aliyun.com/article/1199740?utm_content=g_10…
版权申明:本文内容由阿里云实名注册用户自发奉献,版权归原作者所有,阿里云开发者社区不领有其著作权,亦不承当相应法律责任。具体规定请查看《阿里云开发者社区用户服务协定》和《阿里云开发者社区知识产权爱护指引》。如果您发现本社区中有涉嫌剽窃的内容,填写侵权投诉表单进行举报,一经查实,本社区将立即删除涉嫌侵权内容。