使用sqoop把hive数据导出到mysql如何覆盖之前数据
现在项目组用hive做数据处理,然后把数据导出到mysql中出报表用的,我每天需要全量跑数然后全量覆盖到mysql表中现有的想法是同步hive数据到mysql前先把mysql表中数据清掉,大家谁知道有没有什么参数可以指定同步前覆盖mysql数据的
谢谢!
sqoop有增量追加
jixianqiuxue 发表于 2017-6-7 19:31
sqoop有增量追加
增量追加是ok的,就是全量覆盖的不好搞,暂时是想先删除再同步的,这样是ok的
zhuqitian 发表于 2017-6-7 19:44
增量追加是ok的,就是全量覆盖的不好搞,暂时是想先删除再同步的,这样是ok的
全量导入可以尝试 overwrite
下面可参考,希望有所帮助
示例:
–全量导入
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –hive-overwrite
nextuser 发表于 2017-6-7 19:50
全量导入可以尝试 overwrite
下面可参考,希望有所帮助
示例:
thanks
nextuser 发表于 2017-6-7 19:50
全量导入可以尝试 overwrite
下面可参考,希望有所帮助
示例:
这个是从mysql导入到hive中覆盖数据啊,怎么从hive导入到mysql,覆盖mysql中的数据啊
armand 发表于 2017-6-14 10:46
这个是从mysql导入到hive中覆盖数据啊,怎么从hive导入到mysql,覆盖mysql中的数据啊
这个问题我已经搞定了,我新发表的帖子里有答案,就是同步前清掉mysql表数据
zhuqitian 发表于 2017-6-14 11:32
这个问题我已经搞定了,我新发表的帖子里有答案,就是同步前清掉mysql表数据
我找了,但是没找到,能否指引一下方向
armand 发表于 2017-6-14 13:57
我找了,但是没找到,能否指引一下方向
我很樂於分享的:http://www.aboutyun.com/forum.php?mod=viewthread&tid=21958&extra= zhuqitian 发表于 2017-6-14 14:39
我很樂於分享的:http://www.aboutyun.com/forum.php?mod=viewthread&tid=21958&extra=
谢谢楼主
页:
[1]