分享

【求助】历史任务中查不到spark streaming的任务

lixiaoliang7 发表于 2014-12-25 17:21:20 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 4 17483
大家好:
问个问题。    我spark on yarn中跑spark streaming,为什么我在历史服务(18088)查不到这个任务 ?
这是我的提交脚本
spark-submit --driver-memory 1g --executor-memory 1g --executor-cores 1  --num-executors 3 --class com.yhx.sensor.sparkstreaming.LogicHandle --master yarn /opt/spark/SparkStreaming.jar

我的博客 http://www.cnblogs.com/hark0623

已有(4)人评论

跳转到指定楼层
jixianqiuxue 发表于 2014-12-25 17:46:24
确保服务正确提交

然后检查下配置,只要是页面能显示,一般都能看到的。
  1. <property>
  2. <description>The address of the RM web application.</description>
  3. <name>Yarn.resourcemanager.webapp.address</name>
  4. <value>ip:18088</value>
  5. </property>
复制代码




或则到相应的目录下,看看是否有这个信息。
回复

使用道具 举报

lixiaoliang7 发表于 2014-12-25 18:02:58
jixianqiuxue 发表于 2014-12-25 13:46
确保服务正确提交

然后检查下配置,只要是页面能显示,一般都能看到的。

我在8088中是可以看到sparkstreaming的, 18088也是可以正常访问的。 但是,就是当我停下sparkstreaming后,18088中看不到这个任务。。。。 我是CDH环境下
回复

使用道具 举报

jixianqiuxue 发表于 2014-12-25 18:08:01
lixiaoliang7 发表于 2014-12-25 18:02
我在8088中是可以看到sparkstreaming的, 18088也是可以正常访问的。 但是,就是当我停下sparkstreaming ...

可以尝试其他任务,看是否能够看到。如果能够看到,说明这可能是yarn的一个bug.

回复

使用道具 举报

lixiaoliang7 发表于 2014-12-25 18:11:16
jixianqiuxue 发表于 2014-12-25 14:08
可以尝试其他任务,看是否能够看到。如果能够看到,说明这可能是yarn的一个bug.

好的,多谢,我测试一下。
现在有别的事情要处理,回头如果有一个测试结果后,还会来该贴子中留言说明情况的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条