分享

Spark插件二次开发在Eclipse的调试配置

问题导读:
1.如何搭建spark二次开发环境?
扩展:
2.spark开发环境与hbase、hadoop开发环境搭建有什么相同之处?
附上:
hbase开发环境搭建及运行hbase小实例(HBase 0.98.3新api)






网上有很多spark的eclipse环境下调试配置,但是笔者在开发spark插件的时候,发现spark目录下的bin目录各种拒绝访问。然后又是报错:Error unzipping plugin这种。无奈,网上资料又少的可怜。后来经过各种调试,发现了一种Eclipse下调试spark+插件的方法。现在分享如下:
第一, 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。

第二, 此时,新的Project有很多红叉,没关系,我们加入它需要的jar包。右键这个Project->build path->Config build path。

spark1.jpg



第三, 使用Add External JARS添加之前用ant编译好的spark的target目录下的lib文件。具体位置应该在spark目录下的target\build\lib\下。

第四, 新建一个运行环境:


spark2.jpg

第五, 我这里改名为SparkWithCamacus。这里的Main class选择spark的那个Startup,然后勾选Stop in main。

第六, 在Arguments标签下添加VM arguments:-Djava.library.path="E:\lhb\spark_lvb\build\lib\dist\windows"


spark3.jpg


这里这个path要设置正确,否则会抛一个C开头的什么异常,忘记了。

第七, Common标签和之前配置Spark一样。

第八, 使用ant编译目录下的build.xml文件,生成插件jar包。


第九, 使用Eclipse调试吧!





已有(1)人评论

跳转到指定楼层
lbwahoo 发表于 2014-7-17 21:32:12
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条