SparkStreaming写入Hbase遇到包问题,跪求各位大神帮忙

查看数: 20101 | 评论数: 7 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2015-11-18 12:13

正文摘要:

在使用SparkStreaming写入Hbase时,出现下面的错误。 提交命令: spark-submit\ --master yarn-client \ --driver-memory 10g \ --executor-memory 20g \ --num-executors 10 \ --executor-cores ...

回复

wangweislk 发表于 2015-11-19 14:33:55
整了几天终于OK了,尼玛才是环境变量问题。
shell:
HBASE_HOME=/opt/cloudera/parcels/CDH/lib/hbase
#HIVE_HOME=/opt/cloudera/parcels/CDH/lib/hive
export SPARK_CLASSPATH="$HBASE_HOME/conf/:$HBASE_HOME/hbase-client.jar:$HBASE_HOME/hbase-protocol.jar:$HBASE_HOME/lib/htrace-core.jar:$HBASE_HOME/lib/htrace-core-3.1.0-incubating.jar"&&
wangweislk 发表于 2015-11-19 09:29:28
bioger_hit 发表于 2015-11-18 18:42
集群正常吗?是按照正常的方式提交集群

我已经使用官方给的例子用Java和Python都测试过了,都是找不到org.apache.htrace.Trace包,要怎么将这个加到classpath,这个类的包和org.cloudera.htrace是不是有冲突
wangweislk 发表于 2015-11-18 20:04:09
bioger_hit 发表于 2015-11-18 18:42
集群正常吗?是按照正常的方式提交集群

集群OK的
bioger_hit 发表于 2015-11-18 18:42:40
wangweislk 发表于 2015-11-18 15:24
我使用官方给的Python例子也是异常的问题。

集群正常吗?是按照正常的方式提交集群
wangweislk 发表于 2015-11-18 13:59:07

yarn-client和yarn-cluster我都试过的。对于加端口,我再直接测试hbase的时指定zk就行,我试试加上端口
bioger_hit 发表于 2015-11-18 13:40:20
楼主

spark-submit\
--master yarn-client \
--driver-memory 10g \
--executor-memory 20g \
--num-executors 10 \
--executor-cores 6 \

master yarn-client而不是yarn-cluster


对hbase操作,我一般用下面代码
                conf = HBaseConfiguration.create();
                conf.set("hbase.zookeeper.quorum", "master");// 使用eclipse时必须添加这个,否则无法定位master需要配置hosts
                conf.set("hbase.zookeeper.property.clientPort", "2181");
关闭

推荐上一条 /2 下一条