打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
Flink设置并行度的方式和执行级别

Flink设置并行度的几种方式

  1. 代码中设置setParallelism()

    • 全局设置:

      env.setParallelism(3); 
    • 算子设置(部分设置):

      sum(1).setParallelism(3)
  2. 客户端CLI设置(或webui直接输入数量):

    ./bin/flink run -p 3
  3.  系统设置:

    修改配置文件设置/conf/flink-conf.yaml的parallelism.defaul数值

      4. 最大并行度设置

    • 全局设置:

      env.setMaxParallelism(n) 
    • 算子设置(部分设置):

      sum(1).setMaxParallelism(n)

      默认的最大并行度是近似于operatorParallelism + (operatorParallelism / 2),下限是127,上线是32768. 

  Flink并行度配置级别:算子>全局env>客户端CLI>配置文件 。

  注意:

  1. .setParallelism()设置的并行度需要小于.setMaxParallelism()设置的最大并行度。
  2. 某些算子无法设置并行度,如socketTextStream
  3. 本地模式并行度默认为cpu核数
  4. 并行度改变会影响任务划分,进而影响task数量,如果taskslots数量不满足要求,会导致任务没有足够的资源分配。

 

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
Flink性能调优小小总结
Flink算子使用方法及实例演示:union和connect
干货 | Spark Streaming 和 Flink 详细对比
【赵强老师】Flink的DataSet算子
Flink之工作原理
Flink-3-ApacheFlink架构
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服