分享

Hadoop添加节点datanode

lzw 2013-12-14 21:50:17 发表于 实操演练 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 0 11101
本帖最后由 pig2 于 2014-4-16 19:40 编辑

  • 配置新节点上的hosts
  • 修改namenode节点上conf/slaves文件,增加新节点域名
  • 在新节点上启动服务
    1. [hadoop@slave4 hadoop-1.0.4]# ./bin/hadoop-daemon.sh start datanode
    2. [hadoop@slave4 hadoop-1.0.4]# ./bin/hadoop-daemon.sh start tasktracker
    复制代码

  • 均衡block
    这个会非常耗时
    1) 如果不balance,那么cluster会把新的数据都存放在新的node上,这样会降低mapred的工作效率
    2) 设置平衡阈值,默认是10%,值越低各节点越平衡,但消耗时间也更长
    1. [hadoop@slave4 hadoop-1.0.4]# ./bin/start-balancer.sh -threshold 5
    复制代码
    3)设置balance的带宽,默认只有1M/s
    1. <property>
    2. <name>dfs.balance.bandwidthPerSec</name>
    3. <value>1048576</value>
    4. </property>
    复制代码

注意:

1. 必须确保slave的firewall已关闭;
2. 确保新的slave的ip已经添加到master及其他slaves的/etc/hosts中,反之也要将master及其他slave的ip添加到新的slave的/etc/hosts中

欢迎加入about云群9037177932227315139327136 ,云计算爱好者群,亦可关注about云腾讯认证空间||关注本站微信

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条