分享

spark与ganglia结合问题,以及spark监控的探讨

lanyangkj 发表于 2017-2-24 15:58:55 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 3 11290
近期在研究实时监控这个问题,ganglia肯定首选,但在spark结合时候遇到不少问题,而且网上也没有什么靠谱的方案。都是你抄我的,我抄你的,spark都2.1了,还拿着spark0.8配置文件说说,看metrics.properties.template 官方,0.8-1.6与2.1关与ganglia配置发生很大变化,配错了直接都启动不起来。所以在这想跟大神们聊聊:

1、spark监控还需要ganglia支持吗?我看对接的不怎么好?

2、如果ganglia监控spark指标,都能监控到哪些,谁有在用的界面,截几张图呗分享分享,看能监控到什么程度?

3、个人认为spark histroy已经做的很好,各行其职便是,ganglia是监控服务器的,为什么要结合?

4、spark是否会放弃对ganglia的支持?

以上是我的疑问。大家讨论讨论讨论

已有(3)人评论

跳转到指定楼层
nextuser 发表于 2017-2-24 16:42:07
1、spark监控还需要ganglia支持吗?我看对接的不怎么好?
现在用的最多的,应该还是cloudera
2、如果ganglia监控spark指标,都能监控到哪些,谁有在用的界面,截几张图呗分享分享,看能监控到什么程度?

更多可以与楼主商讨
spark监控ganglia你们都哪些?
http://www.aboutyun.com/forum.php?mod=viewthread&tid=20270

3、个人认为spark histroy已经做的很好,各行其职便是,ganglia是监控服务器的,为什么要结合?
如果不需要,其实可以不用的

4、spark是否会放弃对ganglia的支持?
放弃倒是应该不会把。毕竟有的是用ganglia

以上是我的疑问。大家讨论讨论讨论

回复

使用道具 举报

lanyangkj 发表于 2017-2-24 17:22:52
nextuser 发表于 2017-2-24 16:42
1、spark监控还需要ganglia支持吗?我看对接的不怎么好?
现在用的最多的,应该还是cloudera
2、如果gang ...

谢谢,你提供的唯一一张图片,我已经有了,我服务器上就跑着呢,load_one那个指标是gmond的通用指标。其实我更想知道它对spark的扩展功能。
回复

使用道具 举报

lanyangkj 发表于 2017-2-24 18:05:10
nextuser 发表于 2017-2-24 16:42
1、spark监控还需要ganglia支持吗?我看对接的不怎么好?
现在用的最多的,应该还是cloudera
2、如果gang ...

不过我没用过clouder来监控过spark,请问你们在用吗?

老办法,截几个有代表性的图让我瞧瞧呗。是spark的哦。我看能监控到什么程度,而不是普通cpu,内存,网卡,磁盘什么的。

谢谢了!!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条