分享

大神们给讲讲win7+eclipse+ubuntu 环境下mapreduce?求助

silvasong 发表于 2014-9-15 15:00:10 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 10 19691
大神们给讲讲win7+eclipse+ubuntu 环境下mapreduce?求助

已有(10)人评论

跳转到指定楼层
howtodown 发表于 2014-9-15 15:53:41
下面简单列出步骤,可以参考

1.win7下面你可以使用远程开发,开发方式有两种
一种插件开发一种非插件开发,详细参考下面:
hadoop开发方式总结及操作指导
2.创建mapreduce,可以参考
新手指导,该如何在开发环境中,创建mapreduce程序

3.运行
环境搭建好,mapreduce创建好,就可以运行了。
运行的过程中会遇到问题,需要在本地hadoop中加入一些包及dll,详细可以参考
零基础学习hadoop到上手工作线路指导(编程篇)


回复

使用道具 举报

howtodown 发表于 2014-9-15 15:55:14
上面的内容基本都是基于ubuntu 的,这个你可以放心
回复

使用道具 举报

silvasong 发表于 2014-9-15 16:02:38
howtodown 发表于 2014-9-15 15:55
上面的内容基本都是基于ubuntu 的,这个你可以放心

[main] (Job.java:1375) 2014-09-15 16:01:16 - Job job_1410760197788_0015 failed with state FAILED due to: Application application_1410760197788_0015 failed 2 times due to AM Container for appattempt_1410760197788_0015_000002 exited with  exitCode: 1 due to: Exception from container-launch: ExitCodeException exitCode=1: /bin/bash: line 0: fg: no job control

ExitCodeException exitCode=1: /bin/bash: line 0: fg: no job control

        at org.apache.hadoop.util.Shell.runCommand(Shell.java:538)
        at org.apache.hadoop.util.Shell.run(Shell.java:455)
        at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:702)
        at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:195)
        at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:300)
        at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:81)
        at java.util.concurrent.FutureTask.run(FutureTask.java:266)
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
        at java.lang.Thread.run(Thread.java:745)


Container exited with a non-zero exit code 1
.Failing this attempt.. Failing the application.
[main] (Job.java:1380) 2014-09-15 16:01:16 - Counters: 0

回复

使用道具 举报

silvasong 发表于 2014-9-15 16:03:28
howtodown 发表于 2014-9-15 15:55
上面的内容基本都是基于ubuntu 的,这个你可以放心

配是配上了 现在有报了个错 按照网上说的解决了 还是无效
回复

使用道具 举报

howtodown 发表于 2014-9-15 16:08:33
出现这个问题原因很多,下面的插件都添加进去了吗? 没有添加的话,参考零基础学习hadoop到上手工作线路指导(编程篇),里面有说的这个问题

回复

使用道具 举报

silvasong 发表于 2014-9-15 16:13:31
howtodown 发表于 2014-9-15 16:08
出现这个问题原因很多,下面的插件都添加进去了吗? 没有添加的话,参考零基础学习hadoop到上手工作线路指 ...

已经添加 官方好像有解决 但是相同操作后无效https://issues.apache.org/jira/browse/MAPREDUCE-5655
回复

使用道具 举报

silvasong 发表于 2014-9-15 16:22:36
howtodown 发表于 2014-9-15 16:08
出现这个问题原因很多,下面的插件都添加进去了吗? 没有添加的话,参考零基础学习hadoop到上手工作线路指 ...

官方解释 我看了官方的解释 并同样修改 但是也不行
回复

使用道具 举报

howtodown 发表于 2014-9-16 00:05:17
silvasong 发表于 2014-9-15 16:22
官方解释 我看了官方的解释 并同样修改 但是也不行





首先确保官网的配置生效了,如果没有办法你就在试下下面办法。

以前也遇到了你这个问题,但是没有按照官网这么做,而是使用下面办法,问题就解决了。

只要把下面所有的插件放到hadoop的bin目录下,并且配置好环境变量问题就解决了。



我的版本是hadoop2.2


回复

使用道具 举报

阿飞 发表于 2014-9-16 00:18:06
silvasong 发表于 2014-9-15 16:22
官方解释 我看了官方的解释 并同样修改 但是也不行
确保Java hoem,hadoop home没有问题。
回复

使用道具 举报

12下一页
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条