搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
HDFS
›
打算用hdfs存储一些图片,数量很多,但是大小都一样,每 ...
0
4
0
分享
打算用hdfs存储一些图片,数量很多,但是大小都一样,每张不到1M
JavaShoote
发表于 2013-10-25 10:43:29
[显示全部楼层]
阅读模式
关闭右栏
4
10037
打算用hdfs存储一些图片,数量很多,但是大小都一样,每张不到1M。该怎么存储,有没有实际的例子。还有存储以后怎么查询。根据我目前的水平,只晓得应该将全部直接打包上传到hdfs,但是这样的话,我怎么去查询我指定的一张图片呢。
还有个,现在在Hadoop集群中我可不可以直接指定把数据上传到我的某一个DataNode上面。如果可以,应该怎么做呢,如果不可以,为什么吗?
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(4)人评论
电梯直达
正序浏览
leo_1989
发表于 2013-10-25 10:43:29
首先Hadoop对小文件的支持效果并不算好,因为设计之初就考虑的是对大数量(几百M,甚至上G)的处理(一次写入,多次读取)。 这些原理如果想了解的话可以去看看GFS的论文,有alex翻译的中文版的。
其次Hadoop对小文件做了一些优化,你可以使用Sequence文件(一种Hadoop定义的二进制文件格式的文件)进行存储和获取。这个效率还不错,具体能不能使用还得看你自己的应用。
Hadoop 不支持自定义的文件存储,也就是说你无法制定一个数据文件存储到哪个DataNode节点上。
愿意是DataNode节点是由Hadoop统一管理的,用户不关注内部的实现细节。
备注:
指定一个文件存储到一个DataNode节点这样的需求好像也没什么必要。
回复
使用道具
举报
显身卡
bob007
发表于 2013-10-25 10:43:29
谢谢您的回答。
回复
使用道具
举报
显身卡
xukunddp
发表于 2013-10-25 10:43:29
赞啊~~~
回复
使用道具
举报
显身卡
cryst2l
发表于 2013-10-25 10:43:29
同感啊,我也遇到楼主一样的困惑,本人新手,刚开始学习hadoop
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
JavaShoote
中级会员
关注
46
主题
143
帖子
3
粉丝
TA的主题
Web 应用程序打包成原生移动应用程序 (DreamweaverCS5.5)
2013-12-17
有关移动客户端的未来趋势的问题,欢迎参与
2013-12-17
探索WebKit内核(四)------ Inspector
2013-12-15
查看android native crash后的堆栈信息
2013-12-15
从Samples中入门IOS开发(二)------ CURD
2013-12-15
24小时热文
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
Apache Doris 用户案例集
国家电网公司主数据管理系统技术规范
企业的主数据建设方法论与实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈