搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
HDFS
›
hdfs服役新节点、退役旧节点
0
0
0
分享
hdfs服役新节点、退役旧节点
不可替代
发表于 2018-4-3 08:20:30
[显示全部楼层]
阅读模式
关闭右栏
0
6368
一、服役节点准备
修改ip、主机名、配置ssh、删除服役节点的原有数据
二、服役操作步骤(在namenode节点机器上操作)
1、 在NameNode节点所在的目录在创建dfs.hosts文件,并添加需要服役的节点机器
hadoop102
hadoop103
hadoop104
hadoop105
2、配置hdfs-site.xml,添加dfs.hosts属性
<property>
<name>dfs.hosts</name>
<value>/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts</value>
</property>
3.刷新Namenode
hdfs dfsadmin -refreshNodes
4.更新resourcemanager节点
yarn rmadmin -refreshNodes
5.在NameNode的slave文件中添加服役的hadoop105节点,但是不需要分发slave文件
hadoop102
hadoop103
hadoop104
hadoop105
6.到服役的节点启动服务
/opt/module/hadoop-2.7.2/sbin/hadoop-daemon.sh start datanode
/opt/module/hadoop-2.7.2/sbin/hadoop-daemon.sh start nodemanager
7.数据均衡
/opt/module/hadoop-2.7.2/sbin/start-balancer.sh
————————————————————————————————————————————
三、退役旧节点
1.在NameNode的hadoop配置文件下创建dfs.hosts.exclude 文件、并添加要退役的节点
hadoop105
2.修改Namenode节点的hdfs-site.xml增加退役节点dfs.hosts.exclude 属性
<property><name>dfs.hosts.exclude</name>
<value>/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts.exclude</value>
<property>
3.刷新NameNode、刷新resourcemanager
/opt/module/hadoop-2.7.2/hdfs dfsadmin -refreshNodes
/opt/module/hadoop-2.7.2/yarn rmadmin -refreshNodes
4.进入浏览器查看,退役节点为decommission in progress 数据正在复制块到其他节点,复制完成后为decommissioned
———————————————————————————————————–
5.注意:当节点数小于副本数时,退役失败,需要修改副本数为小于等于节点数。
/opt/module/hadoop-2.7.2/sbin/hadoop-daemon.sh stop datanode/opt/modele/hadoop-2.7.2/sbin/yarn-daemon.sh stop nodemanager
6.从include文件中删除退役的节点,在运行刷新节点的命令
(1)从Namenode的dfs.hosts文件中删除退役的节点hadoop105
hadoop102hadoop103
hadoop104
(2)刷新NameNode,刷新resourcemanager
/opt/module/hadoop-2.7.2/hdfs dfsadmin -refreshNodes
/opt/module/hadoop-2.7.2/yarn rmadmin -refreshNodes
7.从NameNode的slave文件中删除退役节点hadoop105
hadoop102hadoop103
hadoop104
8.数据均衡
/opt/module/hadoop-2.7.2/sbin/start-balancer.sh
注明:本文来自
本人博客
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
没找到任何评论,期待你打破沉寂
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
不可替代
新手上路
关注
14
主题
36
帖子
0
粉丝
TA的主题
cloudera manager企业级
2018-11-1
scala中的型变问题
2018-5-8
scala的数据结构续集
2018-5-8
scala的数据结构
2018-5-4
scala结构控制和函数
2018-5-2
24小时热文
Spark机器学习
Spark机器学习算法、源码及实战详解
《深度实践Spark机器学习(吴茂贵)》高清
《Spark机器学习第2版》高清中文PDF
像高手一样发言:七种常见工作场景的说话之
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈