JavaShoote 发表于 2013-10-25 10:44:38

求助:关于向HDFS上传数据的问题。先谢谢各位朋友了!

我目前的情况是:已经成功搭建了Hadoop运行环境(CentOS 5.5+hadoop-0.20.2+JDK1.6),一共4台测试服务器,1台用作Namenode节点,3个Datanode节点。通过Hadoop自带的几个基准测试对HDFS的I/O和MapReduce做了测试,都没有。
      因为我们主要是想用Hadoop的HDFS对大规模数据做存储方面的应用,之前向HDFS上传数据做测试都是从Namenode节点这台服务器直接上传本地磁盘的数据到HDFS(hadoop fs -copyFromLocal ***.log xyz),如果我有多种数据来源,好比从远端的一台PC终端、服务器、磁盘阵列上传数据到HDFS;或是从HDFS将已经存储的数据下载到指定的一台服务器或是PC终端上又是怎么实现呢吗?
      谢谢各位朋友 望不吝赐教!

mexiang 发表于 2013-10-25 10:44:38

这么久都没人回复啊吗?论坛人气不太高啊!自己顶一下!希望各位多多帮助,小弟不胜感激!

a2325145 发表于 2013-10-25 10:44:38

我们也在做类似的项目,现在好像大多数人都是建议搭建一个第三方服务,比如tomcat,当然这个第三方服务要搭建在hadoop其中一个节点上的,这样才能使用hadoop的各种api进行文件上传和下载等操作。如果有好的建议希望分享一下!!

leo_1989 发表于 2013-10-25 10:44:38

mark,有空讨论哈

einhep 发表于 2013-10-25 10:44:38

目前我们选择的也是用tomcat来做,但是具体的整个平台自己还是在学习中,希望LZ赐教~大家一起学习进步~
images/smilies/default/applause.gif

oYaoXiang1 发表于 2013-10-25 10:44:38

我是直接在数据源所在的机器上搭一个hadoop的client

when30 发表于 2013-10-25 10:44:38

回复 6# cgcgandmm
    搭个client的意思是用Java写一个客户端的程序,通过他来向namenode提出数据的请求吗吗?我也不是很懂的,学习一下~

bob007 发表于 2013-10-25 10:44:38

我们也要做一个类似的项目,要是搭建TOMCAT的话,在HADOOP的其中一个节点,指的是datanode吗,还是datanode和namenode都可以啊吗?请教了,学习学习~
页: [1]
查看完整版本: 求助:关于向HDFS上传数据的问题。先谢谢各位朋友了!