首页
题库
面试
求职
学习
竞赛
More+
所有博客
搜索面经/职位/试题/公司
搜索
我要招人
去企业版
登录 / 注册
首页
>
试题广场
>
Stage的Task的数量由什么决定()。
[单选题]
Stage 的
Task
的数量由什么决定 ()。
Partition
Job
Stage
TaskScheduler
查看答案及解析
添加笔记
求解答(0)
邀请回答
收藏(25)
分享
纠错
1个回答
添加回答
5
啥时候能拿到offer
1. 什么是job
Job简单讲就是提交给spark的任务。
2. 什么是stage
Stage是每一个job处理过程要分为的几个阶段。
3. 什么是task
Task是每一个job处理过程要分为几次任务。Task是任务运行的最小单位。最终是要以task为单位运行在executor中。
4. Job和stage和task之间有什么关系
Job----> 一个或多个stage---> 一个或多个task
5.
Stage 的
Task
的数量由什么决定
是由输入文件的切片(partition)
个数来决定的。在HDFS中不大于128m的文件算一个切片(默认128m)。通过算子修改了某一个rdd的分区数量,task数量也会同步修改。
发表于 2021-11-02 09:27:47
回复(0)
这道题你会答吗?花几分钟告诉大家答案吧!
提交观点
问题信息
Spark
上传者:
小小
难度:
1条回答
25收藏
2187浏览
热门推荐
相关试题
sc.parallelize([(...
Java工程师
C++工程师
算法工程师
顺丰集团
Spark
评论
(5)
来自
顺丰科技2019秋招大数...
下列不属于Spark中driver...
Java工程师
C++工程师
算法工程师
顺丰集团
Spark
评论
(5)
来自
顺丰科技2019秋招大数...
以下哪个操作可能会产生大量小文件
京东
运维工程师
2019
golang工程师
Spark
评论
(12)
模型稀疏化(Pruning)技术主...
大模型概念
评论
(1)
以下哪种方法主要用于缓解大模型训练...
大模型概念
评论
(1)
扫描二维码,关注牛客网
意见反馈
下载牛客APP,随时随地刷题