分享

sprakstreaming多个app同时运行资源问题

dlh 发表于 2015-12-18 09:50:05 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 11 18589
邓立辉 发表于 2015-12-26 10:33:25
regan 发表于 2015-12-21 15:51
sparkStreaming是一个准时是的流处理框架,没有达到那么高的实时性,如果你追求实时,storm在这方面比spa ...

论坛又能用微信登录了。
我把多个job同时运行的方式改了一下:
从kafka收到消息后就直接foreachrdd{
   if rdd为空{return}
   else{判断消息是那个job需要处理的就调用那个job的运算逻辑  }
}
这样空跑就很快了。

回复

使用道具 举报

regan 发表于 2015-12-26 15:28:59
邓立辉 发表于 2015-12-26 10:33
论坛又能用微信登录了。
我把多个job同时运行的方式改了一下:
从kafka收到消息后就直接foreachrdd{

恩,不錯的方法

回复

使用道具 举报

12
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条