分享

任务运行几分钟后为什么有几个executors dead状态?

mjjian0 发表于 2017-9-30 11:19:05 [显示全部楼层] 只看大图 回帖奖励 阅读模式 关闭右栏 4 16472
71`E@NI7BMJXSUWZ_Y@(6QG.png

--master yarn --deploy-mode client  --driver-memory 8g --executor-memory 8g --executor-cores 5

五个节点,三个datanode,64g内存,每个节点40核cpu

每次任务运行后,总会有  dead的executors
然后看日志:
SLF4J: Class path contains multiple SLF4J bindings.SLF4J: Found binding in [jar:file:/data/yarn/nm/usercache/hdfs/filecache/795203/slf4j-log4j12-1.7.16.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J: Found binding in [jar:file:/opt/cloudera/parcels/CDH-5.8.4-1.cdh5.8.4.p0.5/jars/slf4j-log4j12-1.7.5.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.SLF4J: Actual binding is of type [org.slf4j.impl.Log4jLoggerFactory]17/09/30 10:47:49 ERROR CoarseGrainedExecutorBackend: RECEIVED SIGNAL TERM

已有(4)人评论

跳转到指定楼层
sstutu 发表于 2017-9-30 12:57:48
可能内存不够造成的。可以加大内存或则调整参数
加大excutor-memory的值,减少executor-cores的数量
回复

使用道具 举报

mjjian0 发表于 2017-9-30 14:38:16
sstutu 发表于 2017-9-30 12:57
可能内存不够造成的。可以加大内存或则调整参数
加大excutor-memory的值,减少executor-cores的数量

恩,谢啦,这个网上也查到了,但是怎么调都是一样的。
回复

使用道具 举报

sstutu 发表于 2017-9-30 15:37:46
mjjian0 发表于 2017-9-30 14:38
恩,谢啦,这个网上也查到了,但是怎么调都是一样的。

怎么调的,写出来看下
回复

使用道具 举报

mjjian0 发表于 2017-10-11 10:21:59
sstutu 发表于 2017-9-30 15:37
怎么调的,写出来看下

--driver-memory 4g
--executor-memory 8g
--executor-cores 2
目前上面这个配置是没有dead的

--driver-memory 4g
--executor-memory 8g
--executor-cores 4
这个配置还是会有dead的

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条