分享

spark straming 运行时的错误

feloxx 发表于 2017-3-20 11:25:07 [显示全部楼层] 只看大图 回帖奖励 阅读模式 关闭右栏 2 6046
请教一个问题
我从flume采集数据,传入kafka,spark straming从kafka中去消费
当数据量上来之后出现该错误
自己的几个猜想,kafka的topic分区什么的给小了,spark集群的内存小了?(spark给的配置是10c3g)
2017-03-20_111712.png

已有(2)人评论

跳转到指定楼层
feloxx 发表于 2017-3-20 11:26:48
图片点击后可以放大
回复

使用道具 举报

qcbb001 发表于 2017-3-20 15:05:44
本帖最后由 qcbb001 于 2017-3-20 15:07 编辑

org.apache.spark.sparkexception job aborted due to stage failure java.lang.arrayindexoutofboundexception


应该不是内存的问题,可能跟文件的内容有关系。
楼主英文不错可以参考
http://apache-spark-user-list.1001560.n3.nabble.com/spark-shell-running-into-ArrayIndexOutOfBoundsException-td10480.html
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条