搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
Storm
›
storm并发度引发的问题
0
3
0
分享
storm并发度引发的问题
mjjian0
发表于 2015-4-25 17:33:58
[显示全部楼层]
只看大图
阅读模式
关闭右栏
3
19946
本帖最后由 mjjian0 于 2015-4-25 18:16 编辑
我在对一些数据做统计,用到redies,把统计结果放在redies中,然后下一个tuple来了从redies中取出来然后在做统计,统计后在放到redies中供程序对后面的tuple做统计处理。
我在添加bolt的时候设置parallelism_hint的数量不同导致这个bolt统计的数据最终结果也不一样,难道在parallelism_hint大于1的情况下要对程序加锁吗?
当我吧parallelism_hint设置为1的时候,统计结果是正确的
这是我的topology代码
下面是我的bolt,就是说我在这个bolt中 用了redies,统计出来的数据先放到redies,然后等下一个tuple 进来再取出redies数据做统计。
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(3)人评论
电梯直达
正序浏览
muyannian
发表于 2015-4-25 18:50:04
可以的试试锁
回复
使用道具
举报
显身卡
yepiaochen
发表于 2015-4-25 21:06:42
使用curator加锁
回复
使用道具
举报
显身卡
starrycheng
发表于 2015-4-26 01:13:00
parallelism_hint是什么?
感觉这个直接使用storm机制就可以。
例如下图,那种bolt连续bolt的形式。
第一个bolt读取redies做统计,统计后在放到redies中,然后第二个bolt接着处理
他们之间本身存在顺序,所以不需要什么锁。
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
最佳新人
积极上进,爱好学习
发表新帖
mjjian0
高级会员
关注
38
主题
161
帖子
6
粉丝
TA的主题
任务运行几分钟后为什么有几个executors dead状态?
2017-9-30
往hdfs写数据,映射成hive表后,第一列内容会有乱码
2017-8-14
cdh升级遇见的问题
2017-5-27
安装cdh分发parcel卡着不动
2017-4-30
CDH安装遇见的问题
2017-4-26
24小时热文
Spark机器学习
Spark机器学习算法、源码及实战详解
《深度实践Spark机器学习(吴茂贵)》高清
《Spark机器学习第2版》高清中文PDF
像高手一样发言:七种常见工作场景的说话之
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈