分享

sqoop2 mapreduce 一会成功一会失败 导入到mysql的数据有时有、有时无

tanxl 发表于 2017-4-6 21:13:02 [显示全部楼层] 只看大图 回帖奖励 阅读模式 关闭右栏 7 10818
本帖最后由 tanxl 于 2017-4-6 21:57 编辑

sqoop2 执行job时,有时能导入数据有时不能导入数据:

完整的数据(1.png):

完整的数据

完整的数据

执行job时 status(2.png):

执行job时的status

执行job时的status

遇到job  status显示failed时插入到mysql部分数据(3.png):

遇到job status显示failed时插入到mysql部分数据

遇到job  status显示failed时插入到mysql部分数据



当插入数据不全时报的警告(4.png):

当插入数据不全时报的警告

当插入数据不全时报的警告

有时候一条数据都插不进人mysql!!数据不存在问题,换数据也有时间不能插入数据,有时候插入部分数据,
老遇到mapreduce只执行一部分,报一个failedMaps错误:

换数据 也有时只能插入部分数据

换数据 也有时只能插入部分数据





老遇到报错

老遇到报错

已有(7)人评论

跳转到指定楼层
nextuser 发表于 2017-4-7 06:48:08

回帖奖励 +1 云币

看下slave1上51183端口发生了什么问题,一直连接不上。还是老办法
[mw_shl_code=bash,true]netstat -anp|grep 51183[/mw_shl_code]
同时查看下slave1的日志,看看到底是哪里出现问题
回复

使用道具 举报

tanxl 发表于 2017-4-7 10:16:06
本帖最后由 tanxl 于 2017-4-7 10:32 编辑
nextuser 发表于 2017-4-7 06:48
看下slave1上51183端口发生了什么问题,一直连接不上。还是老办法
[mw_shl_code=bash,true]netstat -anp|g ...

好像和这些无关系,有导数据成功的时候:

master

master

导数据成功时候

导数据成功时候
回复

使用道具 举报

langke93 发表于 2017-4-7 13:36:33
可能数据格式的问题。
回复

使用道具 举报

tanxl 发表于 2017-4-7 14:04:33
langke93 发表于 2017-4-7 13:36
可能数据格式的问题。

您好,如果是格式的问题,那为什么会有导数据成功的时候呢?
回复

使用道具 举报

langke93 发表于 2017-4-7 14:41:48
tanxl 发表于 2017-4-7 14:04
您好,如果是格式的问题,那为什么会有导数据成功的时候呢?

你把may jay lee去掉。都换成和第一条,第二条一样的。有的成功,说明格式是正确的,不符合的会导致错误。详细还需要看你具体如何操作的。
回复

使用道具 举报

tanxl 发表于 2017-4-7 15:12:58
本帖最后由 tanxl 于 2017-4-7 15:26 编辑
langke93 发表于 2017-4-7 14:41
你把may jay lee去掉。都换成和第一条,第二条一样的。有的成功,说明格式是正确的,不符合的会导致错误 ...

HDFS中总共3条数据:有时导入0条数据到MySQL
有时导入1条数据到MySQL
有时导入2条数据到MySQL
有时导入3条数据到MySQL
导入0 or 1 or 2 条数据到mysql时,job status 显示结果为failed,
3条数据都导入成功时,job status 显示结果为success,
所有我判断数据没有问题。
现在我的数据集没有may jay lee 这条数据:
成功导入到mysql时:

页面查看:有成功运行的,有失败的!

3条数据成功导入mysql时

3条数据成功导入mysql时

有成功运行的 也有失败的

有成功运行的 也有失败的
回复

使用道具 举报

langke93 发表于 2017-4-7 15:50:38
tanxl 发表于 2017-4-7 15:12
HDFS中总共3条数据:有时导入0条数据到MySQL
有时导入1条数据到MySQL
有时导入2条数据到MySQL

楼主需要分析两方面内容:
第一的firtjob,里面的操作,也就是你的firtjob是怎么写的,是怎么实现的,这个firstjob你是如何封装的,封装里面的内容是什么?这是至关重要的。
第二发生错误,具体错误的日志是什么?
并且两个需要综合分析。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条