搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
技术学习(版主发帖区)
›
大数据学习
›
Spark
›
安装配置
›
Spark插件二次开发在Eclipse的调试配置
0
1
0
分享
Spark插件二次开发在Eclipse的调试配置
hyj
2014-7-16 23:51:06
发表于
安装配置
[显示全部楼层]
只看大图
阅读模式
关闭右栏
1
30266
问题导读:
1.如何搭建spark二次开发环境?
扩展:
2.spark开发环境与hbase、hadoop开发环境搭建有什么相同之处?
附上:
hbase开发环境搭建及运行hbase小实例(HBase 0.98.3新api)
网上有很多spark的eclipse环境下调试配置,但是笔者在开发spark插件的时候,发现spark目录下的bin目录各种拒绝访问。然后又是报错:Error unzipping plugin这种。无奈,网上资料又少的可怜。后来经过各种调试,发现了一种Eclipse下调试spark+插件的方法。现在分享如下:
第一, 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。
第二, 此时,新的Project有很多红叉,没关系,我们加入它需要的jar包。右键这个Project->build path->Config build path。
第三, 使用Add External JARS添加之前用ant编译好的spark的target目录下的lib文件。具体位置应该在spark目录下的target\build\lib\下。
第四, 新建一个运行环境:
第五, 我这里改名为SparkWithCamacus。这里的Main class选择spark的那个Startup,然后勾选Stop in main。
第六, 在Arguments标签下添加VM arguments:-Djava.library.path="E:\lhb\spark_lvb\build\lib\dist\windows"
这里这个path要设置正确,否则会抛一个C开头的什么异常,忘记了。
第七, Common标签和之前配置Spark一样。
第八, 使用ant编译目录下的build.xml文件,生成插件jar包。
第九, 使用Eclipse调试吧!
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
lbwahoo
发表于 2014-7-17 21:32:12
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
hyj
超级版主
关注
1689
主题
2216
帖子
469
粉丝
TA的主题
ChatGPT上线了IOS app,很给力
2023-5-19
About云2023年05月19日每日一读
2023-5-19
数澜科技数据中台项目规范-V1.0.0
2023-5-18
现代数据架构
2023-5-18
12 个真正重要的数据质量指标
2023-5-18
24小时热文
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
Apache Doris 用户案例集
国家电网公司主数据管理系统技术规范
企业的主数据建设方法论与实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈