搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
HDFS
›
关于NameNode内存中的FsImage数据更新问题
0
1
0
分享
关于NameNode内存中的FsImage数据更新问题
leo_1989
发表于 2013-10-25 10:44:51
[显示全部楼层]
阅读模式
关闭右栏
1
6349
我有一个疑问,在namenode的内存中记录了fsimage信息,但是内存中的fsimage元数据是在namemode启动时去合并本地的editlog和fsimage得到的,这样的话就存在以下:
1. 如果namenode一直不重新启动的话,那么如何保证内存中的fsimage是最新的呢吗?
2.在最新的hdfs版本中是否支持周期性的去合并本地editlog和fsimage信息吗?
3.本地的fsimage中的元数据是在什么时候写入的吗?新建文件的时候会向editlog中记录日志,是在这个时候把元数据写入到fsimage中的吗吗?如果是,那么editlog为什么还要和fsimage进行合并吗?因为editlog中记录的元数据,在fsimage中都已经有了。
那位能帮忙解答下,不胜感激。
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
ruanhero
发表于 2013-10-25 10:44:51
个人理解是这样的:
对于前两个,hdfs现在有一个secondary namenode机制专门解决前两个,在时间上来说,默认是1个小时更新一次,在空间上来说,默认是小于64M。这一机制周期性的合并fsimage和editlog,始终保存最新的检查点,加快hadoop下一次启动的速度并且作为最新元数据信息的一个备份。
对于第三个,有一个检查点的机制,检查点始终记录上一次机器启动以后针对hdfs所有的操作,所以在下一次hadoop重启时,会将fsimage和editlog中的数据合并,“新建文件的时候会向editlog中记录日志,是在这个时候把元数据写入到fsimage中的吗吗?”的回答是否定的,只有在hadoop重启的时候才会写入(在没有使用secondary namenode机制的情况下)。
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
leo_1989
中级会员
关注
76
主题
313
帖子
4
粉丝
TA的主题
hadoop内存设置
2015-11-16
自动安装kilo版本openstack开发环境
2015-11-5
Hadoop与数据分析
2015-11-5
开源分布式文件系统
2015-10-22
云计算深刻改变未来
2015-10-22
24小时热文
像高手一样发言:七种常见工作场景的说话之
幕后产品:打造突破式产品思维
副业警钟,新型法律碰瓷发财方式:批量诉讼
Spark机器学习
Spark机器学习算法、源码及实战详解
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈