搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
Cloudera系列
›
让cloudera manager装的spark支持hql【分享】
0
1
0
分享
让cloudera manager装的spark支持hql【分享】
wscl1213
发表于 2016-1-12 18:43:42
[显示全部楼层]
只看大图
阅读模式
关闭右栏
1
10536
如何编译spark源码 的assembly来支持hive前面的文章已经介绍过,如果你是用cm装的搭建的集群:
第一步:在cm 中的spark service里指定gateway为你要使用spark命令行的节点。
第二步:将assembly jar上传到hdfs
第三步:在spark的服务范围中修改以下配置为你在hdfs上的assembly jar
第四步:spark gateway的高级配置中配置以下内容(spark.yarn.jar将路径修改为你自己的具体hdfs path ,,spark env中export HADOOP_CONF_DIR为hive的conf目录)
第五部:将编译好的jar包放到/opt/cloudera/parcels/CDH/lib/spark/lib下面,然后将原来的spark-assembly.jar软链接删除,重新创建软链接ln -s spark-assembly-with-hive-cdh5.3.0.jar spark-assembly.jar,指向你自己编译的支持hive的jar包。
然后你就可以在$SPARK_HOME/bin目录下面运行./spark-sql了。
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
a_zhen
发表于 2016-1-13 10:06:43
还没用过这个呢
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
wscl1213
中级会员
关注
49
主题
226
帖子
4
粉丝
TA的主题
hadoop2 运行报错 Unable to close file because the last block does not have en...
2016-2-25
CDH集群部署手册
2016-1-24
让cloudera manager装的spark支持hql【分享】
2016-1-12
基于粗糙集理论的数据挖掘模型
2016-1-10
数据挖掘模型-Models_of_DM
2016-1-10
24小时热文
矩阵分析引论罗家洪(第四版)
互联网大厂年终福利曝光:看看别人家老板怎
像高手一样发言:七种常见工作场景的说话之
携程允许员工春节回乡办公2个月
数据治理实施方案
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈