分享

求助:关于向HDFS上传数据的问题。先谢谢各位朋友了!

JavaShoote 发表于 2013-10-25 10:44:38 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 7 7366
我目前的情况是:已经成功搭建了Hadoop运行环境(CentOS 5.5+hadoop-0.20.2+JDK1.6),一共4台测试服务器,1台用作Namenode节点,3个Datanode节点。通过Hadoop自带的几个基准测试对HDFS的I/O和MapReduce做了测试,都没有。
      因为我们主要是想用Hadoop的HDFS对大规模数据做存储方面的应用,之前向HDFS上传数据做测试都是从Namenode节点这台服务器直接上传本地磁盘的数据到HDFS(hadoop fs -copyFromLocal ***.log xyz),如果我有多种数据来源,好比从远端的一台PC终端、服务器、磁盘阵列上传数据到HDFS;或是从HDFS将已经存储的数据下载到指定的一台服务器或是PC终端上又是怎么实现呢吗?
      谢谢各位朋友 望不吝赐教!

已有(7)人评论

跳转到指定楼层
mexiang 发表于 2013-10-25 10:44:38
这么久都没人回复啊吗?论坛人气不太高啊!自己顶一下!希望各位多多帮助,小弟不胜感激!
回复

使用道具 举报

a2325145 发表于 2013-10-25 10:44:38
我们也在做类似的项目,现在好像大多数人都是建议搭建一个第三方服务,比如tomcat,当然这个第三方服务要搭建在hadoop其中一个节点上的,这样才能使用hadoop的各种api进行文件上传和下载等操作。如果有好的建议希望分享一下!!
回复

使用道具 举报

leo_1989 发表于 2013-10-25 10:44:38
mark,有空讨论哈
回复

使用道具 举报

einhep 发表于 2013-10-25 10:44:38
目前我们选择的也是用tomcat来做,但是具体的整个平台自己还是在学习中,希望LZ赐教~大家一起学习进步~

回复

使用道具 举报

oYaoXiang1 发表于 2013-10-25 10:44:38
我是直接在数据源所在的机器上搭一个hadoop的client
回复

使用道具 举报

when30 发表于 2013-10-25 10:44:38
回复 6# cgcgandmm
    搭个client的意思是用Java写一个客户端的程序,通过他来向namenode提出数据的请求吗吗?我也不是很懂的,学习一下~
回复

使用道具 举报

bob007 发表于 2013-10-25 10:44:38
我们也要做一个类似的项目,要是搭建TOMCAT的话,在HADOOP的其中一个节点,指的是datanode吗,还是datanode和namenode都可以啊吗?请教了,学习学习~
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条