分享

关于 Hadoop HA 模式 历史服务器该怎么配置

wzf2012 发表于 2015-12-18 10:09:43 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 5 8733
在 Hadoop  HA 模式中,是不是在每台机子上都是统一这么配置?

假设有 master1  和  master2 两台机器,其中 master2 的 namenode 和 rm 都是 standby 状态的

在集群所有的主机中的 mapred-site.xml 文件都是以下配置吗?

[mw_shl_code=xml,true]<property>
<name>mapreduce.jobhistory.address</name>
<value>master1:10020</value>
</property>

<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master1:19888</value>
</property>[/mw_shl_code]

需要把 master2 也写进去吗?这样是不是就构成了 历史服务器的 HA 模式???

最后是不是只要在 master1 上启动 以下命令即可,在 master52 上需要启动吗?
mr-jobhistory-daemon.sh   start historyserver

谢谢啦~

已有(5)人评论

跳转到指定楼层
arsenduan 发表于 2015-12-18 11:21:27


这样不行的,Ha模式在于自动切换,这里写死了,后面肯定要出问题的。建议楼主看看高可用相关文档

修改mapred-site.xml,内容如下
[mw_shl_code=bash,true]<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>[/mw_shl_code]


更多文档:
hadoop2.2.0集群的高可用HA及MapReduce简单配置
http://www.aboutyun.com/thread-6781-1-1.html



hadoop2.7配置:从hadoop集群转换为HA高可用集群配置改变【随记】
http://www.aboutyun.com/thread-14992-1-1.html


Hadoop2.4的ResourceManager HA高可用配置
http://www.aboutyun.com/thread-10941-1-1.html


基于Hadoop 2.2.0的高可用性集群搭建步骤(64位)
http://www.aboutyun.com/thread-6545-1-1.html



Hadoop之NameNode+ResourceManager高可用原理分析
http://www.aboutyun.com/thread-16024-1-1.html



回复

使用道具 举报

atsky123 发表于 2015-12-18 11:28:21
楼主的配置方式应该没错。
回复

使用道具 举报

atsky123 发表于 2015-12-18 11:30:32
master2处于备用状态,应该起不来

参考
http://www.aboutyun.com/blog-1413-2835.html
回复

使用道具 举报

wzf2012 发表于 2015-12-18 13:18:12
atsky123 发表于 2015-12-18 11:30
master2处于备用状态,应该起不来

参考

仅在 master 上启动 mr-jobhistory-daemon.sh start historyserver   ,那么假设 master 的机子挂了,master2 不仅在 mapred-site.xml 配置文件中没有设置, 而且还没有启动 历史服务器的进程。那这时该如何查看历史日志呢?

假设不能看到,那么又能通过什么方式,能看到历史日志?谢谢

回复

使用道具 举报

atsky123 发表于 2015-12-18 17:45:19
wzf2012 发表于 2015-12-18 13:18
仅在 master 上启动 mr-jobhistory-daemon.sh start historyserver   ,那么假设 master 的机子挂了,mas ...

日志应该还是躺在那。在配置下应该好了。不行就到相应的目录下去找了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条