搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
技术学习(版主发帖区)
›
大数据学习
›
Flink
›
实操演练
›
Flink监控:如何实现一个某种数据缺失半小时触发报警的 ...
0
1
2
分享
Flink监控:如何实现一个某种数据缺失半小时触发报警的监控
hyj
2020-4-16 19:34:04
发表于
实操演练
[显示全部楼层]
只看大图
阅读模式
关闭右栏
1
5683
问题导读
1.实现异常报警本文采用了那种方法?
2.采用window是如何实现的?
3.采用keyedstream是如何实现的?
问题定义:半小时监控可以定义为整间隔时间(如9:00-9:30),也可以定义为某条数据之后的半小时
提示: 若采用processingtime,我们可以在env中设置自动定时产生watermark(动动你勤劳的小手google下);若采用eventtime,我们则需要自定义timestamp和watermark(这个网上一大堆)。
1.处理这类问题,提供以下两种方案:
1.1 采用window(窗口的划分依赖于自然时间,用来处理整间隔时间)
window的触发需要依赖于数据,而watermark则是窗口是否执行计算的依赖。但是我们只有一种数据来源,若数据丢失,会造成没有窗口,这样我们写的窗口内数据不存在触发报警的逻辑就不可能执行,在这种情况下,我们需要一个定时的数据源帮助定时触发窗口,代码如下:
(1)Flink如何自定义一个定时数据源
DataStream timerStream = env.addSource(new TimerSource(1000));
(2)触发报警代码
另外补充一句,如果有特殊需要,比如说在监控中间来了某种数据需要提前终止窗口计算,可以在窗口后重写trigger
1.2 采用keyedstream(这个可以用来实现某条数据后半小时没有数据报警)
作者:踽踽独行DIY
链接:
https://www.jianshu.com/p/7f5729e85ea3
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
美丽天空
发表于 2020-4-17 11:19:29
感谢分享
回复
使用道具
举报
显身卡
还有一些帖子被系统自动隐藏,点此展开
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
hyj
超级版主
关注
1689
主题
2216
帖子
469
粉丝
TA的主题
ChatGPT上线了IOS app,很给力
2023-5-19
About云2023年05月19日每日一读
2023-5-19
数澜科技数据中台项目规范-V1.0.0
2023-5-18
现代数据架构
2023-5-18
12 个真正重要的数据质量指标
2023-5-18
24小时热文
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
Apache Doris 用户案例集
国家电网公司主数据管理系统技术规范
企业的主数据建设方法论与实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈