搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
hadoop群集设置block副本数量,对于数据传输很有影响的
0
1
1
分享
hadoop群集设置block副本数量,对于数据传输很有影响的
levycui
发表于 2015-10-16 09:21:45
[显示全部楼层]
阅读模式
关闭右栏
1
10995
最近测试了下hadoop读写数据的情况,将结果分享给大家
datanode
mem:128G
cup:2cpu 26** 4核 共8核
namenode
mem:192G
cup:2cpu 26** 4核 共8核
datanode15台
namenode2台
block size 256M
单个文件2G 使用-put方式
data block repliction =3
3副本put(默认)7分钟
2副本put(指定)2分钟
1副本put(指定)25秒
hdfs dfs -D dfs.replication=1 -put hello125.txt /tmp
ambari查看network usge 一直处于(各IN/OUT)500M/秒
之后调整
data block repliction =2
2副本put(默认)30秒
1副本put(指定)10秒
看来hadoop群集设置block副本,对于数据传输还是很有影响的,安全与速度的选择问题。
http://blog.chinaunix.net/uid-25691489-id-5212761.html
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
hw12321
发表于 2015-10-16 09:35:08
要是再有个关于block size大小对于数据传输的测试就更好了!还是多谢楼主提供这种测试!
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
最佳新人
积极上进,爱好学习
热心会员
经常帮助其他会员答疑
发表新帖
levycui
超级版主
关注
654
主题
1167
帖子
97
粉丝
TA的主题
快手广告领域的大模型技术探索与实践
2024-12-12
人工智能,助力书写数字金融大文章
2024-9-14
开源模型超过最强闭源模型,Llama 3.1颠覆AI生态
2024-7-25
慈不掌兵,我被下属反向PUA了
2024-5-21
字节三面过程,最终还是凉了
2024-4-25
24小时热文
Spark机器学习
Spark机器学习算法、源码及实战详解
《深度实践Spark机器学习(吴茂贵)》高清
《Spark机器学习第2版》高清中文PDF
像高手一样发言:七种常见工作场景的说话之
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈