搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
博客
群组
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云
»
专题
›
交流区
›
技术交流
›
HDFS
›
为啥 copyFromLocal 在shell脚本里不好使?
0
4
0
分享
为啥 copyFromLocal 在shell脚本里不好使?
RnD_Alex
发表于 2013-10-25 10:44:04
[显示全部楼层]
阅读模式
关闭右栏
4
5732
在shell脚本里面用 hadoop fs -copyFromLocal 命令把本地文件load到hdfs里。 用法:hadoop fs -copyFromLocal "$gzfile" "$hadoopfile" ,其中的两个变量是预先装配好的。手动运行sh脚本,工作正常,文件能装载到hdfs。但是配置crontab定时运行脚本,则不能装载文件。可以确定的是sh脚本确实按时执行了,只是hadoop fs -copyFromLocal没效果。请大家帮我看看咋回事吗?谢谢
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(4)人评论
电梯直达
正序浏览
yaojiank
发表于 2013-10-25 10:44:04
这个情况太多了,既然没有成功那肯定有日志啊,先去看一下日志。 然后在post出来。
回复
使用道具
举报
显身卡
xukunddp
发表于 2013-10-25 10:44:04
楼上的是说hadoop的运行日志吗吗?
回复
使用道具
举报
显身卡
ruanhero
发表于 2013-10-25 10:44:04
换了个办法,不用copyFromLocal命令导入了。写了java程序,如下。定时执行没有。
public static void main(String[] args) throws Exception {
String localSrc = args[0];
String dst = args[1];
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(dst),config);
Path srcPath = new Path(localSrc);
Path dstPath = new Path(dst);
fs.copyFromLocalFile(srcPath, dstPath);
}
回复
使用道具
举报
显身卡
lxs_huntingjob
发表于 2013-10-25 10:44:04
对,Hadoop的执行日志和当时的抛出的出错情况。
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
RnD_Alex
新手上路
关注
49
主题
116
帖子
3
粉丝
TA的主题
移动应用调试工具Weinre介绍
2013-12-17
基于Amazon EC2反向代理Google App Engine
2013-12-15
hadoop dfsadmin -refreshNodes 命令详解
2013-10-25
每台工作机dfs.data.dir大小一致
2013-10-25
为啥 copyFromLocal 在shell脚本里不好使?
2013-10-25
24小时热文
哈佛通识教育红皮书 (北大高等教育文库·大
代码精进之路:从码农到工匠
为什么面试难!一文帮我们看透本质,拿捏of
程序员薪资排名,AI位居榜首,平均年薪277
Django实战:Python Web典型模块与项目开发
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈