分享

远程执行程序总是显示:java.io.IOException: Could not acquire 65536 bytes of m...

credit 发表于 2016-3-11 14:33:26 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 3 8927
spark在Hadoop集群远程执行程序总是显示:java.io.IOException: Could not acquire 65536 bytes of memory 这个怎么解决,有没有遇到过的

已有(4)人评论

跳转到指定楼层
s060403072 发表于 2016-3-11 19:33:22
内存不够了吧
回复

使用道具 举报

atsky123 发表于 2016-3-11 19:38:19
设置下jvm更大一些或则设置

"spark.shuffle.memoryFraction"(0.2 by default) and "spark.shuffle.safetyFraction"(0.8 by default).

回复

使用道具 举报

credit 发表于 2016-3-14 08:56:33
atsky123 发表于 2016-3-11 19:38
设置下jvm更大一些或则设置

"spark.shuffle.memoryFraction"(0.2 by default) and "spark.shuffle.safe ...

大神这个在哪里设置呢

点评

spark配置文件不多吧 spark-defaults.conf ############################# Spark shell 和 spark-submit脚本支持两个动态加载配置的方法. 第一种是命令行参数, 如上面用到的 --master. spark-submit通过--conf   发表于 2016-3-17 10:14
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条