标签: spark
-
关于spark:SparkESClickHouse-构建DMP用户画像
download:Spark+ES+ClickHouse 构建DMP用户画像package test;impo…
-
关于spark:Spark-Task的执行过程二-UnsafeShuffleWriter
上一篇讲了BypassMergeSortShuffleWriter实现形式,并且晓得抉择BypassMerge…
-
关于spark:Spark-Task的执行过程一
后面讲了Task的创立、提交,以及对Task进行资源调度与调配,对于Task的实现细节一笔带过,所以这篇开始解…
-
关于spark:Spark-Task的资源分配
在上一篇中,咱们晓得了每个stage会依据分区数,把数据进行切分,并生成Task,也就是说,有多少个分区数,就…
-
关于spark:Spark-TaskSet提交
stage切分后,就会创立一个Job,所以在一个Application中,如果有多个action算子,那就有多…
-
关于spark:Spark-stage切分
本文以宽依赖和窄依赖的例子来解说stage切分的过程,这里跟之前不一样的是,join操作是宽依赖。为了看的更不…
-
关于spark:Spark-宽依赖和窄依赖
后面Standalone模式下的Master对资源的调度,是第一层调度。为了前面第二层调度解说,这里先用一个例…
-
关于spark:Spark-Worker退出怎么办
如果是被动退出,那Worker在退出之前,这里叫worker_1,会杀死本人每个Executor过程。Exec…
-
关于spark:Spark-Executor异常退出怎么办
当Worker创立Executor的时候,会启动一个线程来创立这个Executor,并且期待获取Executo…
-
关于spark:Spark-Standalone部署模式下Application执行完了怎么办
在后面的文章中曾经晓得,Application既占用了Master的资源,也占用Worker里的Executo…