用户组:游客
实验室最近想利用Hadoop搭建一套环境,用来存储和一些实验的环境,准备10台电脑(约15万元左右),对于硬件、操作系统、Hadoop的 ...
接触Hadoop的时候是2.x开始的,虽然现在2.x可以做Hadoop HA,但以前Hadoop 1.x中没有HA这样的机制 是如何保证NN挂机,集群还可 ...
现在要在MR里面得到块的大小,怎样在程序中得到HDFS的块大小
刚安装CDH5.2后,发现dfs.datanode.max.locked.memory这个参数竟然有了4G,但是我的机子本身最大物理内存是8G。 请问这个参数是 ...
编译环境 redhat 6.5 32位 # cd hadoop-2.5.0-src # mvn package -Pdist,native,docs -DskipTests -Dtar ---------------- ...
问题起源是这样的: 我在VM上装了3个CentOS7(64位)虚拟机,我用的是Host-Only方式,自己设置的IP,各虚拟机可以互通,亦可以 ...
当HADOOP集群是HA配置的情况下,怎么实现文件远程上传HDFS
我设置了MultipleOutputs 用于多文件输出: MultipleOutputs.addNamedOutput(job, "aaa", TextOutputFormat.class, Tex ...
你用rpm安装cdh5.2的hadoop集群 并用kerberos做了安全认证,namenode进程起来的时候 提示kerberos认证成功。但是一天之后(24小 ...
2015-01-31 09:37:25,279 INFO org.apache.hadoop.hdfs.server.namenode.ha.EditLogTailer: Loaded 2 edits starting from txid ...
现在有一个在运行的hadoop集群,配置了HA ,但是当时journalnode 指配置了一台。hadoop集群上已经有很多数据。 现在我想增加两 ...
各位,HDFS适合做视频存储么,视频大小一般在几M到几百M之间,也有上G的,总数在几十个T吧。有过类似方案或实际项目吗?
Hadoop HA中的standby nn是有定期对JN上日志进行合并成fsimage,并同步给Active NN的作用吧? 如果有,这个时间间隔是多少? ...
问一下有没配置过 在不同的硬盘上不同存放的策略,比如说 有些是SSD硬盘,有些是SATA硬盘,想指定资源存放在哪块硬盘上吗?
最近公司准备做hadoop平台处理各种数据:文件的、关系数据库的等等,有没有人做过这样的存储方案分享一下? 补充说明: 1.我们 ...
如上图。 现在项目所需要的数据都以这种格式存在HDFS上。但是一直都没进入到实际使用中。最近马上要结合hadoop进行开发了, ...
我5台机器做成集群 192.168.1.60 master 192.168.1.61 resorucemanager 192.168.1.65 datanode65 192.168.1. ...
eclispe最新版本luna连接hadoop集群,编写mapreduce程序时老是报各种莫名其妙的错误?这是为啥?
连接hdfs时候就会报错,使用的https://github.com/winghc/hadoop2x-eclipse-plugin 这里提供的2.6插件
job.setInputFormatClass和setOutputFormatClass,小弟乱了,求详细解释map、combiner、reduce之间输入、输出参数关系,谢谢
网上搜了一下说本地要配置hadoop_home变量指向hadoop安装路径,但是我本地没装啊,我的hadoop是在linux服务器上,这怎么改? ...
启动Hadoop集群测,发现三台DataNode只启动成功了两台,未启动成功的那一台日志中出现了下列异常: hadoop-root-datanode-h ...
报错信息为: java.io.FileNotFoundException: G:/jf2.txt 请帮我看看,谢了。
目录目录 1 1. 前言 1 2. 安装依赖 1 2.1. 安装ProtocolBuffer 2 2.2. 安装CMake 2 2.3. 安装JDK 2 2.4. 安装Maven ...
如题,我在配置hadoop2.5.1时候,在hdfs-site.xml中配置了dfs.datanode.data.dir/usr/hadoop/hdfs/data,然后使用hadoop fs -put ...
之前是用定时器定时从外部取数据然后存到数据库,最后从数据库导入到hdfs,但是现在需求变了,就是希望能在定时器里拿到数据后直 ...
关于setQuota的使用,试了半天也没看出来啥效果,有人指导应该在什么场景下,如何使用才合适吗
参考帖子: http://www.aboutyun.com/blog-3779-85.html 安装环境 :redhat enterprise 6.3 用户组/用户名/密码/ip/主机名 a ...
本版积分规则 发表帖子
查看 »