搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
Flume
›
flume可以把日志写到hdfs的同一个文件中吗?hdfs在实际 ...
0
3
0
分享
flume可以把日志写到hdfs的同一个文件中吗?hdfs在实际应用中有些什么用途?
gojuukaze
发表于 2016-10-13 15:34:06
[显示全部楼层]
阅读模式
关闭右栏
3
11811
About云VIP帮助找工作和提升
现在在做用flume把两台服务器上的日志实时收集到hdfs,
但有个问题传到hdfs上的东西会分成多个文件,虽然可以设置按大小、时间进行文件分割,但都无法做到正在把日志都写入同一个文件。
请问可以把每天的日志都写到hdfs上的一个文件中吗,还是说hdfs在实际应用中只做日志备份用?
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(3)人评论
电梯直达
正序浏览
starrycheng
发表于 2016-10-13 15:58:42
flume只是传递的作用。如果想整合到一个文件中,可以通过shell实现,或则自己二次开发flume
回复
使用道具
举报
显身卡
liuzhixin137
发表于 2016-10-14 09:37:54
意思就是想两个flume客户端同时读写一个文件喽?
回复
使用道具
举报
显身卡
w517424787
发表于 2016-10-14 11:43:18
这个应该要通过java代码来把flume获取的文件进行整合,然后在放入到hdfs上
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
最佳新人
积极上进,爱好学习
热心会员
经常帮助其他会员答疑
发表新帖
gojuukaze
新手上路
关注
主题
帖子
粉丝
TA的主题
flume可以把日志写到hdfs的同一个文件中吗?hdfs在实际应用中有些什么用途?
2016-10-13
24小时热文
Flink CDC:新一代实时数据集成框架
蚂蚁面试就是不一样
如何高效学习
人情世故速查速用大全集
框架思维
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈