用户组:游客
为什么HDFS的数据特征是一次写多次读,这是什么背景吗?
我在书上看有有这样两句命令 : bin/hadoop dfs -put input in bin/hadoop fs -put input in 这两句命令有什么区别啊吗? ...
HDFS构建的第一个假设就是存放和处理的是大文件,但是直观的来看google出来的文件应该是小文件,这个大文件怎么理解呢吗?这些大 ...
F:\workspace\fun\hdfs\build.xml:791: 'java5.home' is not defined. Forrest requi res Java 5. Please pass -Djava5.home= ...
请教:如何通过windows的eclipse连接linux上的HDFS吗?
因为我们是做IDC,想给中小型客户提供存储和灾备服务,所以上个礼拜应领导的要求,研究一下hadoop。根据网上的一些文档,我已经 ...
假设replication = 3,对于一个block的3个副本全部损坏的情况,HDFS是怎么处理的吗? 具体的代码在哪里吗?我找了2天了也没看到 ...
本帖最后由 hadoopor 于 2009-12-4 12:39 编辑 在日志中找到如下: 2009-12-04 11:47:35,562 ERROR org.apache.hadoop.hdfs. ...
想测试下hadoop的balance,看看hadoop的balance对数据的移动情况,不知道那位大牛能提供各测试方案。
本帖最后由 spork 于 2009-11-20 21:39 编辑 HDFS也有块(Block)的概念,但它的块是一个很大的单元,默认是64MB。像硬盘中的 ...
2010-09-30 16:42:00,017 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: STARTUP_MSG: /************************** ...
我们看一下创建文件,写文件最后关闭文件的流程。如下图: 1. client通过调用DistributedFileSystem的create方法来创建文 ...
本帖最后由 摩西莫西 于 2009-12-18 13:45 编辑 如果 我们想从一个集群中把一个datanode去除掉 例如这个节点叫s110一般情况下 ...
我用3台计算机,1台作为Web server,一台是namenode,一台datanode,我想请问一下,我是可以直接从WebServer写文件到hdfs中,还 ...
昨天对hdfs的文件写入做了一个性能的测试。使用的是nutch-1.0里面带的hadoop,没有使用hadoop-0.20.X版本。入文件的方式是采用的 ...
浏览 HDFS 目录 /opt/hadoop$ bin/hadoop fs -ls 上传文件到 HDFS 上传 /opt/hadoop$ bin/hadoop fs -put conf input ...
我需要把原始数据文件存储在HDFS中,然后通过MapReduce分析,好像听说存入HDFS的文件大小是64M的话处理效率会高一点,有没有这个 ...
如果设置一个block为64M,实际写入每个block的文件大小只有2M,实际给hadoop的HDFS分配的硬盘空间有10G, 请问当前能分配多少个 ...
版本 0.21.0 hdfs namenode 启动namenode后执行 netstat -lnp | grep java && jps 结果是: tcp 0 0 101.14.241. ...
MD5校验过程,是否正确吗? 在发送端将文件块做MD5检验,在接收到文件有块后,又对文件做MD5检验。并与发送过来的校验文件做比 ...
从我查阅的资料来看,如果一个块(64M)中只有一个10M的文件,那么这个块只占用 10M的物理存储空间,而且一个块中只能有一个文件 ...
本帖最后由 fiberlijun 于 2009-11-19 17:11 编辑 dfs.name.dir 这个参数设置HDFS的元数据信息存放在本地操作系统的目录,如 ...
DTS:Distributed Table System DFS:Distributed File Sytem 共同点:1.相同的冗灾能力 2.相同的加载能力 3.上层都可以采用 ...
我现在不太明白,Google云计算中文件系统和bigtable的区别,(或者说hadoop中HDFS和HBase区别吧) bigtable和Hbase都是数据库吧,功 ...
HDFS中名字空间和元数据什么意思? 数据块是存在DataNode中,那NameNode中是否也会存储数据块呢吗?
存储在HDFS上的jar文件可以直接在HDFS上执行吗吗?吗? 比如 bin/hadoop jar hdfs://ip+port/jar
不太明白,HDFS中文件具体包含什么内容?? 还有,可以不可以将HBase中数据看做一个"特殊"的文件,然后在存储在Datanode中呢 ?
我有5台机器,1台做为master,4台是slaves。其中两台挂了之后重启,虽然节点机器上的数据文件还在,但是查看文件情况时找不到这 ...
就是出错的时候不是有出错信息显示在窗口嘛 想截获这个消息 hadoop有可以用的api或接口来用吗吗? 请教。
请问,如果读入一个大型文件的话,HDFS在系统默认的情况下会将文件切分为若干个64M的副本拷贝到DATANODE中去,每个文件块会有3个 ...
本版积分规则 发表帖子
查看 »