搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
1分钟小知识
›
小知识分享区
›
Flume
›
小知识点
›
【Flume】flume文件监控的source组件开发,增量传输文件 ...
0
2
1
分享
【Flume】flume文件监控的source组件开发,增量传输文件内容,支持断点续传功能
bob007
2015-6-16 01:14:50
发表于
小知识点
[显示全部楼层]
阅读模式
关闭右栏
2
27342
基于flume-ng中原有exec的source类型,通过tail依赖于操作系统去监听文件内容变化,其次,不支持断点续传的功能,特此,自行开发了一个组件,大家可以看看,一起探讨:
https://github.com/cwtree/flume-filemonitor-source
该组件特点如下:
1、一个source对应一个文件监控
2、实时监控文件变化
3、增量传输文件内容
4、支持断点续传功能,即使flume进程挂掉,下一次重启仍然可以继续接着上次断开的地方传输
5、能自动判断是否log文件滚动了(前提,必须做好flume进程的监控,监控到进程不在了,要立即进行重启)
只需如下配置即可:
[mw_shl_code=bash,true]a1.sources.r1.type=org.apache.flume.chiwei.filemonitor.FileMonitorSource
a1.sources.r1.channels=c1
a1.sources.r1.file=/home/flume/example/file/bizlogic.log
a1.sources.r1.positionDir=/home/flume[/mw_shl_code]
望各位不吝指教!
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(2)人评论
电梯直达
正序浏览
fzleejm
发表于 2015-6-16 07:32:01
谢谢分享。。。。
回复
使用道具
举报
显身卡
Murphy
发表于 2015-6-16 08:46:27
学习一下
回复
使用道具
举报
显身卡
还有一些帖子被系统自动隐藏,点此展开
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
bob007
高级会员
关注
103
主题
458
帖子
6
粉丝
TA的主题
HBase条件查询
2016-1-24
HBase-1.0.1.1 编写Coprocessor【分享】
2016-1-24
HBase-1.0.1.1的Java API使用记录【分享】
2016-1-24
Zookeeper可视化工具
2016-1-22
Hadoop云平台的入侵检测系统优化设计
2016-1-22
24小时热文
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
Apache Doris 用户案例集
国家电网公司主数据管理系统技术规范
企业的主数据建设方法论与实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈