hadoop集群,如何运行Java jar包---如何运行mapreduce程序
导读:本篇主要介绍了在hadoop集群上运行mapreduce方式。
可能你所关心的只是一条运行命令:
hadoop jarx.jar×××.MainClassName inputPath outputPath
如果更详细了解,可以查看下面内容。
static/image/hrline/2.gif
hadoop集群运行mapreduce有两种方式:1.一种是打包,在hadoop集群运行
2.一种是开发环境运行。
下面详细讲一下:
1.一种是打包,在hadoop集群运行
首先我们要打包程序,打包具体可以参考
(hadoop编程:解决eclipse能运行,打包放到集群上ClassNotFoundException:经验总结)
http://www.aboutyun.com/thread-7086-1-1.html
,打包完毕,我们该如何运行
首先显示一个比较简单的:
http://www.aboutyun.com/data/attachment/album/201404/16/140327ldgcaidkgwwdygph.png上面命令:hadoop jar x.jar 是运行包的一种方式,完成的方式为hadoop jarx.jar×××.MainClassName inputPath outputPath同时解释一下:x.jar为包的名称,包括路径,直接写包名称,则为默认路径×××.MainClassName为运行的类名称inputPath为输入路径outputPath为输出路径。这里需要注意的是:输入路径和输出路径,一定要对应。比如输入路径hdfs://192.168.1.100:9000/user/hadoop/filetest/word.txt
输出路径:hdfs://192.168.1.100:9000/user/hadoop/output
二者就不一致,output后面需要加入文件名,二者对应起来。
2.mapreduce在eclipse中运行对于下面按照步骤单击Java Application就ok了。http://www.aboutyun.com/data/attachment/album/201404/16/141830cu6d37596rwe4m7z.png
怎么看楼主的下一篇文章呢? aqi915 发表于 2015-8-27 10:15
怎么看楼主的下一篇文章呢?
看帖子和博客
http://www.aboutyun.com/home.php?mod=space&uid=61&do=blog&view=me&from=space
http://www.aboutyun.com/home.php?mod=space&uid=61&do=thread&view=me&from=space
谢谢分享!
如果输入数据文件是多个路径,调用命令应该怎么写啊 unbelieve 发表于 2016-2-25 13:02
如果输入数据文件是多个路径,调用命令应该怎么写啊
那你就写多个输入路径,最后一个输出
atsky123 发表于 2016-2-25 21:01
那你就写多个输入路径,最后一个输出
数据路径,我用分号隔开也不好使,最后还是在文件里直接写好路径了。 Exception in thread "main" java.io.IOException: Error opening job jar: /home/hadoop/score.jar
at org.apache.hadoop.util.RunJar.run(RunJar.java:160)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Caused by: java.util.zip.ZipException: error in opening zip file
at java.util.zip.ZipFile.open(Native Method)
at java.util.zip.ZipFile.<init>(ZipFile.java:215)
at java.util.zip.ZipFile.<init>(ZipFile.java:145)
at java.util.jar.JarFile.<init>(JarFile.java:154)
at java.util.jar.JarFile.<init>(JarFile.java:91)
at org.apache.hadoop.util.RunJar.run(RunJar.java:158)
... 1 more
楼主,我报这样的错怎么解决 gvsagrew 发表于 2016-11-29 15:57
Exception in thread "main" java.io.IOException: Error opening job jar: /home/hadoop/score.jar
at o ...
已解决
分享。顶顶
页:
[1]