Spark插件二次开发在Eclipse的调试配置
问题导读：1.如何搭建spark二次开发环境？
扩展：
2.spark开发环境与hbase、hadoop开发环境搭建有什么相同之处？
附上：
hbase开发环境搭建及运行hbase小实例（HBase 0.98.3新api）
static/image/hrline/4.gif
网上有很多spark的eclipse环境下调试配置，但是笔者在开发spark插件的时候，发现spark目录下的bin目录各种拒绝访问。然后又是报错：Error unzipping plugin这种。无奈，网上资料又少的可怜。后来经过各种调试，发现了一种Eclipse下调试spark+插件的方法。现在分享如下：
第一， 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。
第二， 此时，新的Project有很多红叉，没关系，我们加入它需要的jar包。右键这个Project->build path->Config build path。
第三， 使用Add External JARS添加之前用ant编译好的spark的target目录下的lib文件。具体位置应该在spark目录下的target\build\lib\下。
第四， 新建一个运行环境：
第五， 我这里改名为SparkWithCamacus。这里的Main class选择spark的那个Startup，然后勾选Stop in main。
第六， 在Arguments标签下添加VM arguments：-Djava.library.path="E:\lhb\spark_lvb\build\lib\dist\windows"
这里这个path要设置正确，否则会抛一个C开头的什么异常，忘记了。
第七， Common标签和之前配置Spark一样。
第八， 使用ant编译目录下的build.xml文件，生成插件jar包。
第九， 使用Eclipse调试吧！
{:soso_e100:}
页:
[1]