分享

oozie运行sqoop导入,执行完map一直等待不停止

hello-world 发表于 2017-8-11 17:16:31 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 8 8824
oozie执行sqoop导入时,执行完map。程序一直等待不停止;但是直接运行命令很快就结束,并且结果正确,求解

已有(8)人评论

跳转到指定楼层
desehawk 发表于 2017-8-11 17:56:58
看看运行日志,应该有记录的
回复

使用道具 举报

sstutu 发表于 2017-8-11 18:40:42
正常来讲,肯定是要结束的。不结束可能原因,比如内存,jvm,数据等。这些都是推测。具体可以看看hadoop的运行日志。
回复

使用道具 举报

hello-world 发表于 2017-8-12 09:12:35
sstutu 发表于 2017-8-11 18:40
正常来讲,肯定是要结束的。不结束可能原因,比如内存,jvm,数据等。这些都是推测。具体可以看看hadoop的 ...

日志里并没有报错,跑了一夜,最后手动kill了,等待时输出的日志如下,请教一下这是什么意思,怎么修改,谢谢[IPC Server handler 1 on 37656] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Progress of TaskAttempt attempt_1502433149979_0015_m_000000_0 is : 1.0

回复

使用道具 举报

hello-world 发表于 2017-8-12 09:14:49
desehawk 发表于 2017-8-11 17:56
看看运行日志,应该有记录的

日志里并没有报错,跑了一夜,最后手动kill了,等待时输出的日志如下,请教一下这是什么意思,怎么修改,谢谢[IPC Server handler 1 on 37656] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Progress of TaskAttempt attempt_1502433149979_0015_m_000000_0 is : 1.0

回复

使用道具 举报

nextuser 发表于 2017-8-12 09:31:56
hello-world 发表于 2017-8-12 09:14
日志里并没有报错,跑了一夜,最后手动kill了,等待时输出的日志如下,请教一下这是什么意思,怎么修改, ...

错误是说磁盘空间不足。
这个可能是map任务运行时输出比较多,运行出错前,硬盘空间一路飙升,直到100%不够时报错。随后任务执行失败,释放空间,把任务分配给其它节点。因为空间被释放,因此报空间不足的错误,查看空间很多剩余。所以这个问题比较难发现。
运行过程中的监控很重要。
参考:刘超★ljc

回复

使用道具 举报

hello-world 发表于 2017-8-12 10:00:01
nextuser 发表于 2017-8-12 09:31
错误是说磁盘空间不足。
这个可能是map任务运行时输出比较多,运行出错前,硬盘空间一路飙升,直到100% ...

你这个回复,我百度搜出来过,他的日志里有出错信息,我这里没有报错信息,就是一直等待,但是map的进度是100%
回复

使用道具 举报

sstutu 发表于 2017-8-12 10:35:57
本帖最后由 sstutu 于 2017-8-12 11:18 编辑
hello-world 发表于 2017-8-12 10:00
你这个回复,我百度搜出来过,他的日志里有出错信息,我这里没有报错信息,就是一直等待,但是map的进度 ...

是否有reduce,一般来讲不会卡在map段。map 100%是已经完成的意思。还有楼主可以监控下磁盘,看看是否有6楼说的情况。
回复

使用道具 举报

hello-world 发表于 2017-8-12 11:47:07
sstutu 发表于 2017-8-12 10:35
是否有reduce,一般来讲不会卡在map段。map 100%是已经完成的意思。还有楼主可以监控下磁盘,看看是否有6 ...

我都是在新机器上装的,这个问题貌似不应该存在
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条